如何使用OpenCV實現手勢音量控制
更新時間：2023年11月06日 09:22:47 作者：是Dream呀
今天來學習一下如何使用OpenCV實現手勢音量控制,本次實驗需要使用OpenCV和mediapipe庫進行手勢識別,并利用手勢距離控制電腦音量,感興趣的朋友跟隨小編一起看看吧
前言：Hello大家好，我是Dream。 今天來學習一下如何使用OpenCV實現手勢音量控制，歡迎大家一起前來探討學習~
一、需要的庫及功能介紹
本次實驗需要使用OpenCV和mediapipe庫進行手勢識別，并利用手勢距離控制電腦音量。
導入庫：
- cv2：OpenCV庫，用于讀取攝像頭視頻流和圖像處理。
- mediapipe：mediapipe庫，用于手部關鍵點檢測和手勢識別。
- ctypes和comtypes：用于與操作系統(tǒng)的音頻接口進行交互。
- pycaw：pycaw庫，用于控制電腦音量。
功能：
- 初始化mediapipe和音量控制模塊，獲取音量范圍。
- 打開攝像頭，讀取視頻流。
- 對每一幀圖像進行處理：
- 轉換圖像為RGB格式。
- 使用mediapipe檢測手部關鍵點。
- 如果檢測到手部關鍵點：
- 在圖像中標注手指關鍵點和手勢連線。
- 解析手指關鍵點坐標。
- 根據拇指和食指指尖的坐標，計算手勢距離。
- 將手勢距離轉換為音量大小，并控制電腦音量。
- 顯示處理后的圖像。
- 循環(huán)執(zhí)行前述步驟，直到手動停止程序或關閉攝像頭。
注意事項:
- 在運行代碼之前，需要安裝相關庫（opencv、mediapipe、pycaw）。
- 需要連接音頻設備并使其可訪問。
- 檢測到多個手部時，只處理第一個檢測到的手部。
- 檢測到手指關鍵點時，將索引指為0的關鍵點作為拇指的指尖，索引指為1的關鍵點作為食指的指尖。
cv2.VideoCapture()函數參數問題
這并沒有錯。但在樹莓派上調用時需要更改參數，改為：
cap = cv2.VideoCapture(1)
調用電腦攝像頭時：
電腦在用cv2.VideoCapture(0)時，程序結束后會有報錯：
[ WARN:0] SourceReaderCB::~SourceReaderCB terminating async callback
需要改為：
cv2.VideoCapture(0,cv2.CAP_DSHOW)
二、導入所需要的模塊
# 導入OpenCV import cv2 # 導入mediapipe import mediapipe as mp # 導入電腦音量控制模塊 from ctypes import cast, POINTER from comtypes import CLSCTX_ALL from pycaw.pycaw import AudioUtilities, IAudioEndpointVolume # 導入其他依賴包 import time import math import numpy as np
三、初始化 HandControlVolume 類
class HandControlVolume:
def __init__(self):
"""
初始化 HandControlVolume 類的實例
初始化 mediapipe 對象，用于手部關鍵點檢測和手勢識別。
獲取電腦音量接口，并獲取音量范圍。
"""
# 初始化 medialpipe
self.mp_drawing = mp.solutions.drawing_utils
self.mp_drawing_styles = mp.solutions.drawing_styles
self.mp_hands = mp.solutions.hands
# 獲取電腦音量范圍
devices = AudioUtilities.GetSpeakers()
interface = devices.Activate(
IAudioEndpointVolume._iid_, CLSCTX_ALL, None)
self.volume = cast(interface, POINTER(IAudioEndpointVolume))
self.volume.SetMute(0, None)
self.volume_range = self.volume.GetVolumeRange()- 初始化 mediapipe 對象，用于手部關鍵點檢測和手勢識別。
- 獲取電腦音量接口，并獲取音量范圍。
四、主函數
1.計算刷新率
- 初始化刷新率的計算，記錄當前時間作為初始時間。
- 使用
OpenCV打開視頻流，此處讀取攝像頭設備，默認使用設備ID為0。 - 設置視頻流的分辨率為指定的
resize_w和resize_h大小，并將圖像resize為該尺寸。 - 在使用hands對象之前，使用
with語句創(chuàng)建一個上下文環(huán)境，設置手部檢測和追蹤的相關參數，包括最小檢測置信度、最小追蹤置信度和最大手的數量。 - 進入循環(huán)，判斷視頻流是否打開。使用
cap.read()函數從視頻流中讀取一幀圖像，返回的success表示是否讀取成功，image則是讀取到的圖像。 - 對讀取到的圖像進行
resize，將其調整為指定的大小。如果讀取失敗，則打印提示信息并繼續(xù)下一次循環(huán)。
# 主函數
def recognize(self):
# 計算刷新率
fpsTime = time.time()
# OpenCV讀取視頻流
cap = cv2.VideoCapture(0)
# 視頻分辨率
resize_w = 640
resize_h = 480
# 畫面顯示初始化參數
rect_height = 0
rect_percent_text = 0
with self.mp_hands.Hands(min_detection_confidence=0.7,
min_tracking_confidence=0.5,
max_num_hands=2) as hands:
while cap.isOpened():
success, image = cap.read()
image = cv2.resize(image, (resize_w, resize_h))
if not success:
print("空幀.")
continue2.提高性能
- 將圖像的可寫標志image.flags.writeable設置為False，以便進行內存優(yōu)化。
- 將圖像從BGR格式轉換為RGB格式，這是因為MediaPipe模型處理的輸入要求為RGB格式。
- 對圖像進行水平翻轉，即鏡像操作，以使圖像更符合常見的鏡像顯示。
- 使用MediaPipe模型對圖像進行處理，得到結果。
- 將圖像的可寫標志image.flags.writeable設置為True，以重新啟用對圖像的寫入操作。
- 將圖像從RGB格式轉換回BGR格式，以便后續(xù)的顯示和處理。
這些優(yōu)化操作旨在提高程序的性能和效率。其中，將圖像的可寫標志設置為False可以減少不必要的內存拷貝，轉換圖像的格式和鏡像操作則是為了符合MediaPipe模型的輸入要求和更好地進行手勢識別。最后，將圖像轉換回BGR格式是為了與OpenCV的顯示函數兼容。
# 提高性能
image.flags.writeable = False
# 轉為RGB
image = cv2.cvtColor(image, cv2.COLOR_BGR2RGB)
# 鏡像
image = cv2.flip(image, 1)
# mediapipe模型處理
results = hands.process(image)
image.flags.writeable = True
image = cv2.cvtColor(image, cv2.COLOR_RGB2BGR)3.判斷是否有手掌
- 判斷
results.multi_hand_landmarks是否存在，即是否檢測到手掌。如果存在，則繼續(xù)執(zhí)行下面的代碼。 - 遍歷
results.multi_hand_landmarks中的每個hand_landmarks，即遍歷每個檢測到的手掌。 - 使用
self.mp_drawing.draw_landmarks函數將檢測到的手掌標注在圖像上，包括手指的關鍵點和手指之間的連接線。
# 判斷是否有手掌
if results.multi_hand_landmarks:
# 遍歷每個手掌
for hand_landmarks in results.multi_hand_landmarks:
# 在畫面標注手指
self.mp_drawing.draw_landmarks(
image,
hand_landmarks,
self.mp_hands.HAND_CONNECTIONS,
self.mp_drawing_styles.get_default_hand_landmarks_style(),
self.mp_drawing_styles.get_default_hand_connections_style())4.解析手指，存入各個手指坐標
首先解析手指的坐標，并存入landmark_list列表中。然后，根據手指的坐標計算出大拇指和食指的指尖坐標，以及兩者的中間點坐標。接下來，繪制了大拇指、食指和兩者之間的連線，并使用勾股定理計算了兩個指尖之間的長度。
- 創(chuàng)建一個空的landmark_list列表用于存儲手指坐標。
- 遍歷手部關鍵點的每個元素，將每個關鍵點的id、x、y和z坐標存儲在一個列表中，然后將該列表添加到landmark_list中。
- 判斷l(xiāng)andmark_list是否不為空，如果不為空，繼續(xù)執(zhí)行下面的代碼。
- 從landmark_list中獲取大拇指指尖坐標的列表項，然后計算出在圖像上的像素坐標。
- 從landmark_list中獲取食指指尖坐標的列表項，然后計算出在圖像上的像素坐標。
- 計算大拇指指尖和食指指尖的中間點坐標。
- 繪制大拇指和食指的指尖點，以及中間點。
- 繪制大拇指和食指之間的連線。
- 使用勾股定理計算大拇指指尖和食指指尖之間的長度，保存在line_len中。
# 解析手指，存入各個手指坐標
landmark_list = []
for landmark_id, finger_axis in enumerate(
hand_landmarks.landmark):
landmark_list.append([
landmark_id, finger_axis.x, finger_axis.y,
finger_axis.z
])
if landmark_list:
# 獲取大拇指指尖坐標
thumb_finger_tip = landmark_list[4]
thumb_finger_tip_x = math.ceil(thumb_finger_tip[1] * resize_w)
thumb_finger_tip_y = math.ceil(thumb_finger_tip[2] * resize_h)
# 獲取食指指尖坐標
index_finger_tip = landmark_list[8]
index_finger_tip_x = math.ceil(index_finger_tip[1] * resize_w)
index_finger_tip_y = math.ceil(index_finger_tip[2] * resize_h)
# 中間點
finger_middle_point = (thumb_finger_tip_x + index_finger_tip_x) // 2, (
thumb_finger_tip_y + index_finger_tip_y) // 2
# print(thumb_finger_tip_x)
thumb_finger_point = (thumb_finger_tip_x, thumb_finger_tip_y)
index_finger_point = (index_finger_tip_x, index_finger_tip_y)
# 畫指尖2點
image = cv2.circle(image, thumb_finger_point, 10, (255, 0, 255), -1)
image = cv2.circle(image, index_finger_point, 10, (255, 0, 255), -1)
image = cv2.circle(image, finger_middle_point, 10, (255, 0, 255), -1)
# 畫2點連線
image = cv2.line(image, thumb_finger_point, index_finger_point, (255, 0, 255), 5)
# 勾股定理計算長度
line_len = math.hypot((index_finger_tip_x - thumb_finger_tip_x),
(index_finger_tip_y - thumb_finger_tip_y))5.獲取電腦最大最小音量
實現獲取電腦的最大和最小音量，并將指尖的長度映射到音量范圍和矩形顯示上，然后將映射后的音量值設置為電腦的音量。具體過程如下：
self.volume_range[0]和self.volume_range[1]分別獲取電腦的最小音量和最大音量。np.interp函數將指尖的長度line_len映射到從50到300的范圍，再映射到最小音量和最大音量的范圍，得到音量值vol。np.interp函數將指尖的長度line_len映射到從50到300的范圍，再映射到從0到200的范圍，得到矩形的高度rect_height。np.interp函數將指尖的長度line_len映射到從50到300的范圍，再映射到從0到100的范圍，得到矩形百分比顯示的數值rect_percent_text。self.volume.SetMasterVolumeLevel方法將音量值vol設置為電腦的音量。
# 獲取電腦最大最小音量
min_volume = self.volume_range[0]
max_volume = self.volume_range[1]
# 將指尖長度映射到音量上
vol = np.interp(line_len, [50, 300], [min_volume, max_volume])
# 將指尖長度映射到矩形顯示上
rect_height = np.interp(line_len, [50, 300], [0, 200])
rect_percent_text = np.interp(line_len, [50, 300], [0, 100])
# 設置電腦音量
self.volume.SetMasterVolumeLevel(vol, None)6.顯示矩形
cv2.putText函數來在圖像上顯示矩形框的百分比值；cv2.rectangle函數來繪制矩形框并填充顏色；cv2.putText函數來在圖像上顯示當前幀的刷新率FPS；cv2.imshow函數來顯示處理后的圖像；cv2.waitKey函數等待按鍵輸入，當按下ESC鍵或關閉窗口時退出程序；HandControlVolume類的recognize方法調用了手勢識別的功能。
# 顯示矩形
cv2.putText(image, str(math.ceil(rect_percent_text)) + "%", (10, 350),
cv2.FONT_HERSHEY_PLAIN, 3, (255, 0, 0), 3)
image = cv2.rectangle(image, (30, 100), (70, 300), (255, 0, 0), 3)
image = cv2.rectangle(image, (30, math.ceil(300 - rect_height)), (70, 300), (255, 0, 0), -1)
# 顯示刷新率FPS
cTime = time.time()
fps_text = 1 / (cTime - fpsTime)
fpsTime = cTime
cv2.putText(image, "FPS: " + str(int(fps_text)), (10, 70),
cv2.FONT_HERSHEY_PLAIN, 3, (255, 0, 0), 3)
# 顯示畫面
cv2.imshow('MediaPipe Hands', image)
if cv2.waitKey(5) & 0xFF == 27 or cv2.getWindowProperty('MediaPipe Hands', cv2.WND_PROP_VISIBLE) < 1:
break
cap.release()
# 開始程序
control = HandControlVolume()
control.recognize()五、實戰(zhàn)演示
通過演示我們可以發(fā)現，食指與大拇指之間在屏幕中的的距離越遠，那么我們的音量會越大，反之越小，實現了通過手勢對音量的控制。
六、源碼分享
import cv2
import mediapipe as mp
from ctypes import cast, POINTER
from comtypes import CLSCTX_ALL
from pycaw.pycaw import AudioUtilities, IAudioEndpointVolume
import time
import math
import numpy as np
class HandControlVolume:
def __init__(self):
# 初始化medialpipe
self.mp_drawing = mp.solutions.drawing_utils
self.mp_drawing_styles = mp.solutions.drawing_styles
self.mp_hands = mp.solutions.hands
# 獲取電腦音量范圍
devices = AudioUtilities.GetSpeakers()
interface = devices.Activate(
IAudioEndpointVolume._iid_, CLSCTX_ALL, None)
self.volume = cast(interface, POINTER(IAudioEndpointVolume))
self.volume.SetMute(0, None)
self.volume_range = self.volume.GetVolumeRange()
# 主函數
def recognize(self):
# 計算刷新率
fpsTime = time.time()
# OpenCV讀取視頻流
cap = cv2.VideoCapture(0)
# 視頻分辨率
resize_w = 640
resize_h = 480
# 畫面顯示初始化參數
rect_height = 0
rect_percent_text = 0
with self.mp_hands.Hands(min_detection_confidence=0.7,
min_tracking_confidence=0.5,
max_num_hands=2) as hands:
while cap.isOpened():
success, image = cap.read()
image = cv2.resize(image, (resize_w, resize_h))
if not success:
print("空幀.")
continue
# 提高性能
image.flags.writeable = False
# 轉為RGB
image = cv2.cvtColor(image, cv2.COLOR_BGR2RGB)
# 鏡像
image = cv2.flip(image, 1)
# mediapipe模型處理
results = hands.process(image)
image.flags.writeable = True
image = cv2.cvtColor(image, cv2.COLOR_RGB2BGR)
# 判斷是否有手掌
if results.multi_hand_landmarks:
# 遍歷每個手掌
for hand_landmarks in results.multi_hand_landmarks:
# 在畫面標注手指
self.mp_drawing.draw_landmarks(
image,
hand_landmarks,
self.mp_hands.HAND_CONNECTIONS,
self.mp_drawing_styles.get_default_hand_landmarks_style(),
self.mp_drawing_styles.get_default_hand_connections_style())
# 解析手指，存入各個手指坐標
landmark_list = []
for landmark_id, finger_axis in enumerate(
hand_landmarks.landmark):
landmark_list.append([
landmark_id, finger_axis.x, finger_axis.y,
finger_axis.z
])
if landmark_list:
# 獲取大拇指指尖坐標
thumb_finger_tip = landmark_list[4]
thumb_finger_tip_x = math.ceil(thumb_finger_tip[1] * resize_w)
thumb_finger_tip_y = math.ceil(thumb_finger_tip[2] * resize_h)
# 獲取食指指尖坐標
index_finger_tip = landmark_list[8]
index_finger_tip_x = math.ceil(index_finger_tip[1] * resize_w)
index_finger_tip_y = math.ceil(index_finger_tip[2] * resize_h)
# 中間點
finger_middle_point = (thumb_finger_tip_x + index_finger_tip_x) // 2, (
thumb_finger_tip_y + index_finger_tip_y) // 2
# print(thumb_finger_tip_x)
thumb_finger_point = (thumb_finger_tip_x, thumb_finger_tip_y)
index_finger_point = (index_finger_tip_x, index_finger_tip_y)
# 畫指尖2點
image = cv2.circle(image, thumb_finger_point, 10, (255, 0, 255), -1)
image = cv2.circle(image, index_finger_point, 10, (255, 0, 255), -1)
image = cv2.circle(image, finger_middle_point, 10, (255, 0, 255), -1)
# 畫2點連線
image = cv2.line(image, thumb_finger_point, index_finger_point, (255, 0, 255), 5)
# 勾股定理計算長度
line_len = math.hypot((index_finger_tip_x - thumb_finger_tip_x),
(index_finger_tip_y - thumb_finger_tip_y))
# 獲取電腦最大最小音量
min_volume = self.volume_range[0]
max_volume = self.volume_range[1]
# 將指尖長度映射到音量上
vol = np.interp(line_len, [50, 300], [min_volume, max_volume])
# 將指尖長度映射到矩形顯示上
rect_height = np.interp(line_len, [50, 300], [0, 200])
rect_percent_text = np.interp(line_len, [50, 300], [0, 100])
# 設置電腦音量
self.volume.SetMasterVolumeLevel(vol, None)
# 顯示矩形
cv2.putText(image, str(math.ceil(rect_percent_text)) + "%", (10, 350),
cv2.FONT_HERSHEY_PLAIN, 3, (255, 0, 0), 3)
image = cv2.rectangle(image, (30, 100), (70, 300), (255, 0, 0), 3)
image = cv2.rectangle(image, (30, math.ceil(300 - rect_height)), (70, 300), (255, 0, 0), -1)
# 顯示刷新率FPS
cTime = time.time()
fps_text = 1 / (cTime - fpsTime)
fpsTime = cTime
cv2.putText(image, "FPS: " + str(int(fps_text)), (10, 70),
cv2.FONT_HERSHEY_PLAIN, 3, (255, 0, 0), 3)
# 顯示畫面
cv2.imshow('xyp', image)
if cv2.waitKey(5) & 0xFF == 27 or cv2.getWindowProperty('MediaPipe Hands', cv2.WND_PROP_VISIBLE) < 1:
break
cap.release()
control = HandControlVolume()
control.recognize()到此這篇關于OpenCV實現手勢音量控制的文章就介紹到這了,更多相關OpenCV手勢音量控制內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！
相關文章
這篇文章主要介紹了python編程實現12306的一個小爬蟲實例，具有一定借鑒價值，需要的朋友可以參考下。2017-12-12
本文主要介紹了Python 列表推導式與字典推導式的實現，文中通過示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-12-12
在Python的框架中為MySQL實現restful接口的教程
這篇文章主要介紹了在Python的框架中為MySQL實現restful接口的教程,文中的示例基于Flask和Django框架,需要的朋友可以參考下2015-04-04
本篇文章主要介紹了詳解python OpenCV學習筆記之直方圖均衡化，小編覺得挺不錯的，現在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2018-02-02
詳解numpy.ndarray.reshape()函數的參數問題
這篇文章主要介紹了詳解numpy.ndarray.reshape()函數的參數問題,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2020-10-10
這篇文章主要介紹了Python 實現將某一列設置為str類型，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-07-07
這篇文章主要介紹了Python 操作MySQL詳解及實例的相關資料,需要的朋友可以參考下2017-04-04
這篇文章主要介紹了使用Python發(fā)送各種形式的郵件的方法匯總,包括HTML形式的或者帶圖片以及帶附件的郵件等等,需要的朋友可以參考下2015-11-11
這篇文章主要為大家詳細介紹了python機器學習理論與實戰(zhàn)第一篇，K近鄰法的相關資料，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-01-01![Python中的X[:,0]、X[:,1]、X[:,:,0]、X[:,:,1]、X[:,m:n]和X[:,:,m:n]](http://img.jbzj.com/images/xgimg/bcimg9.png)
Python中的X[:,0]、X[:,1]、X[:,:,0]、X[:,:,1]、X[:,m:n]和X[:,:,m:n]
這篇文章主要介紹了Python中的X[:,0]、X[:,1]、X[:,:,0]、X[:,:,1]、X[:,m:n]和X[:,:,m:n]，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2020-02-02