如何在python中反转光标移动？答案

【问题标题】：How can I invert the cursor movement in python?如何在python中反转光标移动？
【发布时间】：2018-01-27 17:41:44
【问题描述】：

在这段代码中，我使用的是 Python 2.7.13、OpenCV 2.4.13 和 PyAutoGUI 0.9.36。目的是根据面部移动移动光标，但光标移动是反转的。例如，如果我的脸向右移动，则光标向左移动；如果我的脸向左移动，则光标向右移动。另外，我希望光标在我的 PC 的整个屏幕上向右、向左、向上和向下移动，其大小为 x=1920，y=1080。

该计划的目的是表明有可能获得一种新的方式来获得更多的独立性和访问权，以便四肢瘫痪的人能够进行简单的活动，这些活动是数百万人日常生活的一部分，例如打开和关闭灯以及打开和关闭电视。

import cv2
import pyautogui

faceCascade = cv2.CascadeClassifier('haarcascade_frontalface_default.xml')

video_capture = cv2.VideoCapture(0)

while True:
    # Capture frame-by-frame
    ret, frame = video_capture.read()

    gray = cv2.cvtColor(frame, cv2.COLOR_BGR2GRAY)
    faces = faceCascade.detectMultiScale(
        gray,
        scaleFactor=1.3,
        minNeighbors=5,
        minSize=(80, 80),
        flags=cv2.cv.CV_HAAR_SCALE_IMAGE
    )

    #print 'faces: ', faces

    # Draw a rectangle around the faces
    for (x, y, w, h) in faces:
        cv2.rectangle(frame, (x, y), (x+w, y+h), (0, 0, 255), 3)

    #width, height = pyautogui.size()
    #cursorx, cursory = pyautogui.position()
    #posx = width - cursorx
    #posy = cursory
    pyautogui.moveTo(x+w, y+h)

    # Display the resulting frame
    #cv2.imshow('Video', frame)
    rimg = cv2.flip(frame,1) #invert the object frame
    cv2.imshow("vertical flip", rimg) 

    if cv2.waitKey(1) & 0xFF == ord('q'):
        break
# When everything is done, release the capture
video_capture.release()
cv2.destroyAllWindows()

【问题讨论】：

如果您在获得框架后立即反转框架会发生什么。而不是做 rimg 只是为了展示它。此外，如果您将框架调整为您的屏幕尺寸，它不会解决其他问题吗？
您还可以做另一件事。尽管我认为您仍然必须在检测到人脸之前翻转图像。但是您不需要调整它的大小（我认为即使调整大小也无法到达屏幕的边缘。）您可以检测脸部是否位于框架的中心区域以及它是否没有相应地移动光标（每 x 毫秒）。如果面部离中心区域较远，则使鼠标朝该方向移动得更快，如果更近，则将其移动得更慢。 if center(ish) 停止鼠标移动。
首先，你能校准头部的运动或面部表情（眉毛、眼睛等）的运动吗？我建议将头部的运动排除在程序之外，以避免通过突然的规避、附加、扭曲和俯冲运动过度刺激内耳（身体的陀螺仪）。你能生成你的鼠标跟踪数据吗？只需在上、下、左、右移动鼠标时打印出 X、Y 坐标，然后使用该数据编辑帖子。

标签： python windows opencv pyautogui

【解决方案1】：

这是一件好事。

要仅修复鼠标移动，您可以从屏幕大小中减去 x,y 移动。但是然后将其扩展到整个屏幕 pyautogui.moveTo(x,y) 会非常不准确和嘈杂。为了更流畅，您可以使用

pyautogui.moveRel(None, steps)

话虽如此，如果您首先使用面部级联，则移动面部以进行相应的鼠标移动将非常困难。我会说使用像向左或向右倾斜这样的面部方向会更好。

在下面的代码中，我使用眼睛级联来进行左右运动。所以稍微倾斜一下脸就足够运动了。我在 OpenCV 3.2 上工作，因此如果需要，请对您的版本进行必要的更改。

代码

import numpy as np
import cv2
import pyautogui

right = cv2.CascadeClassifier('haarcascade_righteye_2splits.xml')
left = cv2.CascadeClassifier('haarcascade_lefteye_2splits.xml')
smile = cv2.CascadeClassifier('haarcascade_smile.xml')

cam=cv2.VideoCapture(0)

blank=np.zeros((480,848,3),dtype=np.uint8)  # Change this correctly to size of your image frame
fix=0 

print "press y to set reference box for y motion" #set a reference initially for y motion

while(cam.isOpened()):


        ret,img = cam.read()
        r=0
        l=0
        gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
        r_eye= right.detectMultiScale(gray, 1.9, 9)
        l_eye= left.detectMultiScale(gray, 1.9, 9)  #Change these values according to face distance from screen

        for (rx,ry,rw,rh) in r_eye:
                cv2.rectangle(img,(rx,ry),(rx+rw,ry+rh),(255,255,0),2)
                r_c=(rx+rw/2,ry+rh/2)
                r=1

        for (lx,ly,lw,lh) in l_eye:          
                cv2.rectangle(img,(lx,ly),(lx+lw,ly+lh),(0,255,255),2)
                l_c=(lx+lw/2,ly+lh/2)
                l=1

        if(r*l):

            if(l_c[0]-r_c[0]>50):
                cv2.line(img,r_c,l_c,(0,0,255),4)
                mid=((r_c[0]+l_c[0])/2,(r_c[1]+l_c[1])/2)
                cv2.circle(img,mid,2,(85,25,100),2)
                if(fix==1):                        # Change this part of code according to what you want
                                                   # for motion along y direction
                    if( mid[1]<one[1]):
                        pyautogui.moveRel(None, -15)
                    if(mid[1]>two[1]):
                        pyautogui.moveRel(None, 15)

                if(cv2.waitKey(1))== ord('y'):
                        blank=np.zeros_like(img)
                        one=(mid[0]-60,r_c[1]-7)   # Change the Value 60,7 to change box dimentions
                        two=(mid[0]+60,l_c[1]+7)   # Change the Value 60,7 to change box dimentions
                        cv2.rectangle(blank,one,two,(50,95,100),2)
                        fix=1


        elif(r) :   pyautogui.moveRel(-30, None)   # Change the Value and Sign to change speed and direction

        elif (l):   pyautogui.moveRel(30, None)    # Change the Value and Sign to change speed and direction



        img=cv2.bitwise_or(img,blank)
        cv2.imshow('img',img)
        if(cv2.waitKey(1))==27:break

cv2.destroyAllWindows()

在代码中，您需要按 y 设置一个框以供 y 运动参考。开箱即用，双眼都将是运动。

我们可以为鼠标点击添加一个微笑级联，但现在这有点不准确和缓慢。需要找出更好的选择，例如点击眼睛或其他东西。
这是一个非常基本的代码，可以让事情正常工作。在神经网络中标记面部表情可能会好很多，但速度也是一个因素。

【讨论】：

【解决方案2】：

如果您知道屏幕大小，只需从屏幕大小中减去您现在的大小，即可将光标移到另一侧。例如：

pyautogui.moveTo(1920 - (x+w), 1080 - (y+h))

如果 x+w 让您获得屏幕位置 2（屏幕左侧），那么它现在将为您获得 1918 屏幕位置（屏幕右侧）

【讨论】：