第7章 人机交互系统
- 格式:ppt
- 大小:3.83 MB
- 文档页数:20
摘要现行的无人机控制主要依靠专业的设备,由经过专业训练的人来完成。
这给无人机的普及以及推广带来了不小的困难。
无人机越来越多的应用场景给操控的便捷性带来了越来越高的要求,现有的依靠设备的方法在很多应用场合有着很大的局限性,限制着无人机应用的扩展。
为此,本文研究了简化无人机人机交互的方法,该方法在拓展无人机应用方式上有着重要的应用意义。
本文完成的工作如下:搭建了一套无人机实验验证平台。
该平台包括了一台多旋翼无人机以及以Nvidia Tegra K1芯片为核心的机载嵌入式信号处理平台。
编写了机载嵌入式信号平台与无人机飞行控制系统的接口程序,为后续的无人机控制、导航以及其它类别的应用研究奠定了良好的软硬件实验验证基础。
设计并实现了一种基于双目视觉和深度学习的手势控制无人机方法。
首先跟踪并提取人物所在区域,通过立体匹配获取人物和背景均包含的深度图。
然后通过归一化并且阈值化的方法,将对动作识别造成干扰的背景去除,从而得到只含有领航员的深度图序列。
其次,通过对深度图序列前后两帧差分处理并且利用HSV色彩空间按照时间顺序进行色彩映射与叠加,将深度图序列转换为同时含有人物动作时间与空间信息的彩色纹理图。
然后用深度学习方法对所获得的彩色纹理图进行训练和分类,从而实现手势指令的识别。
由于神经网络的训练对硬件要求极高,因此本方案采用离线训练,在线分类的方式。
最后,构建了一个包含4个指令动作和一个非指令动作的数据集,利用数据集对神经网络进行训练并且进行了测试。
经验证,本文所述方法在室内和室外均可使用,有效控制范围达到10m,可以简化无人机控制复杂度,对促进无人机普及,拓展无人机应用范围都具有一定的参考价值。
关键词:无人机,人机交互,双目视觉,深度学习ABSTRACTTraditionally, interacting with UAV(Unmanned Aerial Vehicle)required specialized instrument and well trained operators. In many cases, the instrument based interaction method has been an obstacle in UAV application. In order to reduce the difficulty interacting with UAV. We make usage of the binocular camera on UAV which originally used in obstacle avoidance for motion capture by using depth sensing method. By using deep learning method for motion recognition, we develop a high accuracy human-robot interacting method which is non instrument based. This method reduces the interacting difficulty and has a great sense in experience of interacting with UAV. In our research, we finished following works:We set up an UAV platform for experimental usage. The platform includes an milticopter and an embedded signal processing platform equipped with NVidia Tegra K1 processor. We wrote an API which allow us control UAV from embedded signal processing platform. This has been the basis of UAV control, navigation and other further study.We designed and realize an interacting method with UAV based on stereo vision and deep learning. Firstly, tracking the people who was allowed to control the UAV and spilt it out. We got depth image which contained both the people and the background. We filtered out the background by normalizing and threadholding the depth image. Secondly, we overlay a series differential depth image. These image is colored by mapping the color and the depth image in HSV color space according the time of image captured to generate a colored texture image which including time and space information at the same time. Finally, we classify the colored texture image using deep learning method and recognized the gesture. We trained the neural network offline and executing the image classification online as the training of neural network required power computer.Finally, we built a data set containing four commanding gesture and a non-commanding gesture. We trained the neural network using this data set and prove the proposed classification method. The proposed method is robust for both indoor and outdoor situation and is effective in 10 meters. Make significant sense to the popularization of UAV and extend its application field.KEY WORDS:Unmanned Aerial Vehicle, Human Robot Interact, Stereo Vision, Deep Learning目录摘要 (I)ABSTRACT .......................................................................................................... I II 绪论 . (1)1.1引言 (1)1.2国内外研究现状 (2)1.2.1无人机及其控制 (2)1.2.2无人机人机交互方法 (3)1.2.3人类动作数据采集 (5)1.2.4动作识别 (6)1.3论文的主要研究内容 (7)1.4论文结构安排 (7)基于双目视觉的深度图生成以及处理 (9)2.1双目摄像头图像的采集 (9)2.2双目视觉测距原理 (10)2.3立体相机的标定 (12)2.4深度图的生成 (13)2.5立体图像的预处理 (16)2.6本章小结 (17)基于深度学习的动作识别方法 (19)3.1视频预处理 (19)3.1.1领航员的跟踪以及区域裁切 (19)3.1.2彩色纹理图序列的生成 (20)3.2卷积神经网络 (22)3.2.1 Caffe神经网络框架 (23)3.2.2 Alexnet网络 (23)3.3数据集的构建 (24)3.4神经网络的训练和动作识别 (26)3.5本章小结 (27)多旋翼无人机控制 (29)4.1多旋翼无人机控制 (29)4.1.1动力模型以及控制方法 (29)4.1.2无人机自动控制原理 (31)4.2无人机的外部控制 (32)4.2.1 ROS机器人操作系统 (32)4.2.2 Mavros工具包 (33)4.2.3系统软件架构 (35)4.3本章小结 (37)实验和数据分析 (39)5.1硬件平台 (39)5.1.1总体方案 (39)5.1.2嵌入式机载处理平台 (40)5.1.3地面站 (41)5.2手势识别算法性能比较 (41)5.3手势识别距离测试 (42)5.4本章小结 (44)总结与展望 (45)6.1本文工作总结 (45)6.2进一步的工作 (46)参考文献 (47)发表论文和参加科研情况说明 (51)致谢 (53)绪论1.1引言无人机已广泛应用于海域监测、电力巡线、森林防火,搜索救援、防灾减灾、国土资源监测、航测航拍、高速公路管理、毒气勘察、污染监测等领域,在降低成本,提高效率及安全性等方面展现了巨大优势。
山东大学人机交互技术教案一、教案概述本教案旨在为学生提供对人机交互技术的基本概念、原理和应用的全面了解。
通过学习,学生将能够掌握人机交互的基本理论,熟悉不同的人机交互技术,并能够应用于实际项目中。
二、教学目标1. 理解人机交互的基本概念和原理。
2. 掌握不同的人机交互技术及其应用。
3. 能够分析并设计有效的人机交互系统。
三、教学内容1. 第一章:人机交互简介人的认知与行为人机交互的历史与发展人机交互的基本概念2. 第二章:人机交互理论认知心理学在人机交互中的应用人类工效学在人机交互中的作用可用性工程与人机交互3. 第三章:人机交互技术输入设备与输出设备触摸屏与手势识别技术语音识别与自然语言处理技术4. 第四章:用户体验设计用户体验的基本概念与要素用户体验设计的方法与流程用户测试与评估5. 第五章:人机交互应用案例分析移动应用的人机交互设计虚拟现实与增强现实技术在人机交互中的应用智能家居系统的人机交互设计四、教学方法1. 讲授:讲解基本概念、原理和理论。
2. 案例分析:分析实际的人机交互应用案例。
3. 小组讨论:分组讨论并解决实际问题。
4. 项目实践:设计并实现一个简单的人机交互系统。
五、教学评估1. 平时成绩:包括课堂参与、作业和小组讨论。
2. 期中考试:考察学生对人机交互基础知识的掌握。
3. 项目实践:评估学生对人机交互技术的应用能力。
六、教学内容6. 第六章:交互设计原则与模式交互设计的基本原则常见的人机交互模式交互设计在不同领域的应用7. 第七章:界面设计界面设计的基本概念与原则界面布局与视觉设计响应式设计与移动界面设计8. 第八章:无障碍设计无障碍设计的重要性常见无障碍设计技术和策略评估和测试无障碍设计的工具和方法9. 第九章:人机交互技术与伦理问题人机交互中的隐私与数据保护与机器学习的伦理问题人在回路中的伦理考量10. 第十章:未来人机交互技术的发展趋势在人机交互中的未来应用脑机接口与意念控制技术量子计算在人机交互领域的潜在影响七、教学方法1. 讲授:讲解交互设计原则、界面设计、无障碍设计等概念。
人机交互理论基础:人:视觉,听觉,触觉,动作(反应时间+动作时间)存储:感觉,短期记忆,长期记忆信息处理:原因,问题解决,技巧每个人都不同;视觉:物理信号刺激,对刺激进行处理和解释尺寸与深度:视觉角度指示有多少个物体,视觉敏锐感知细节,线索重叠帮助感觉大小与深度动作:菲兹定理:Mt(movement time)=a+blog2(D/S+1);a,b为常数,D距离(distance),S目标尺寸(size),距离越短越好,目标越大越好3种记忆:感知记忆,短期记忆,长期记忆感知记忆:图像记忆(视觉刺激),拟声记忆,触觉记忆短期记忆:快速接受,快速消退,限制在7+-2个块数。
长期记忆:接受慢,消退慢。
偶然长期记忆,定理式长期记忆。
定理式长期记忆来自偶然记忆。
短期记忆通过练习到长期记忆演绎:从已知结论出发,推出结论(演绎结论有对与错)归纳:从已知事件出发,归纳出规律(只有错),从结果到原因图形用户界面:WIMP界面MHP模型:总结和容纳大量认知心理学的研究成果,7+-2规律,STM到LTM的连接GOMS模型:描述了用户只需交互任务必须的知识,有目标,操作符,方法,和选择规则(从最高层目标开始,将最高层分解子目标,直到不可再分(操作符),一种操作符序列称为一种方法)(K击键P指向H归位M心理准备R响应这5个)界面范式:进行交互设计时的主导思想或思考方式WIMP:针对桌面应用,Window,Icon,Menu,Point(窗口,图标,菜单,指点设备),事件驱动,大大减少了键盘输入,提高了交互效率。
笔式界面范式:人在纸和笔环境下进行交互WIMP不在适用PIBG笔式界面范式:Physicl objiect,Icon,Button,Gesture.用户模型:费茨定律:缩短距离和增大目标来缩短定位时间,格式塔原理:易于理解,协调的整体。
接近原理(近的一类,远的一类),相似原理(相似的是一组),连续原理(视觉倾向于连续),封闭原理(视觉自动将敞开的图形关闭起来),对称原理(分解复杂的来降低复杂度),主体/背景原理(区域区分为主体和背景),均衡原理(倾向于需求视觉组合中的秩序或平衡)McGurk(麦格克)效应:是一种感性的认知现象,表现出在语音感知过程中听觉和视觉之间的相互作用,有时人类的听觉会过多的受到视觉的影响,从而产生误听的现象。
《工业机器人技术基础及其应用》(戴凤智,乔栋主编)的每章思考与练习题及其参考答案第1章工业机器人概述1.机器人系统由哪四部分组成?答:(教材第2页)机器人系统由以下四部分组成:机械系统、驱动系统、控制系统和感知系统。
2.工业机器人有哪些基本特点?答:(教材第3页)工业机器人主要有以下三个基本特点:可编程、拟人化、通用性。
3.工业机器人的传感部分有哪些子系统组成?答:(教材第12页)机器人的传感部分相当于人类的五官,机器人可以通过传感部分来感觉自身和外部环境状况,帮助机器人工作更加精确。
工业机器人的传感部分主要分为两个子系统:感受(传感)系统、机器人与环境交互系统。
4.工业机器人的机械部分有哪些子系统组成?答:(教材第11页)机械部分是机器人的硬件组成,也称为机器人的本体。
工业机器人的机械部分主要分为两个子系统:驱动系统、机械结构系统。
5.工业机器人的控制部分有哪些子系统组成?答:(教材第11页)控制部分相当于机器人的大脑,可以直接或者通过人工对机器人的动作进行控制。
工业机器人的控制部分分为两个子系统:人机交互系统、控制系统。
6.工业机器人一般有哪些主要技术指标?答:(教材第12页)工业机器人的技术指标是机器人生产厂商在产品供货时所提供的技术数据,反映了机器人的适用范围和工作性能,是选择机器人时必须考虑的问题。
工业机器人的主要技术指标一般包括:自由度、工作精度、工作范围、额定负载、最大工作速度等。
7.工业机器人是如何进行分类的?答:(教材第14页)工业机器人的分类方法有很多,本书主要介绍了以下三种分类方法。
(1)按机械结构可以分为串联机器人和并联机器人。
(2)按机器人的机构特性可以分为直角坐标机器人、柱面坐标机器人、球面坐标机器人、多关节坐标机器人。
(3)按程序输入方式可以分为编程输入型机器人、示教输入型机器人。
第2章工业机器人的机械结构系统和驱动系统1.工业机器人的机械系统有哪三部分组成?答:(教材第22页)工业机器人的机械系统由手部、手臂、基座三部分组成。
第7章A/D、D/A、CMP和TSI模块本章导读:作为工业控制及测量最主要的模块之一,模/数转换(ADC)及数/模转换(DAC)的是嵌入式系统应用的基本内容之一。
比较器CMP也是嵌入式应用系统中基本的控制逻辑之一。
触摸感应接口TSI 作为一种新型的人机交互手段,已应用于越来越多的嵌入式系统。
本章主要知识点有①A/D转换的基本知识及一般编程模型;②D/A转换的基本知识及一般编程模型;③比较器CMP模块的基本知识及一般编程模型;④TSI模块的基本知识及一般编程模型。
7. 1 16位A/D转换模块的驱动构件设计在过程控制和仪器仪表中,多数情况下是由嵌入式计算机进行实时控制及实时数据处理的。
计算机所加工的信息是数字量,而被测控对象往往是一些连续变化的模拟量(如温度、压力、速度或流量等)。
模/数(Analog/Digital,A/D)转换模块是嵌入式计算机与外界连接的纽带,是大部分嵌入式应用中必不可少的重要组成部分,该部分的性能直接影响到嵌入式设备的总体性能。
本节首先简要阐述A/D转换的基础知识,接着给出K60 MCU内部A/D转换模块的基本编程方法,并封装了A/D转换构件,可供实际开发参考使用。
7. 1. 1 A/D转换的基础知识A/D转换模块(Analog To Digital Convert Module)即模/数转换模块,其功能是将电压信号转换为相应的数字信号。
数字控制系统如图7-1所示。
实际应用中,该电压信号可能由温度、湿度、压力等实际物理量经过传感器和相应的变换电路转化而来。
经过A/D转换后,MCU就可以处理这些物理量。
进行A/D转换,应该了解以下一些基本问题:第一,采样精度是多少;第二,采样速率有多快;第三,滤波问题;第四,物理量回归等。
图7-1数字控制系统框图1. 采样精度采样精度就是指数字量变化一个最小量时模拟信号的变化量,即采样位数。
通常,MCU 的采样位数为8位,某些增强型的可达到10位,而专用的A/D采样芯片则可达到12位、14位,甚至16位。
智能生产线智慧树知到期末考试答案章节题库2024年沈阳职业技术学院1.双作用气缸是指活塞的往复运动均由压缩空气来推动。
()答案:对2.TP700面板的触摸屏操作直观方便,具有报警、配方管理、趋势图、用户管理等功能。
()答案:对3.程序执行阶段是根据梯形图程序扫描原则,PLC按先右后左、先下后上的步序语句逐句扫描。
()答案:错4.工业机器人是一种通过复制编程和自动控制,能够完成制造过程中某些操作任务的多功能、多自由度的机电一体化自动机械设备和系统()答案:对5.开环伺服系统有反馈环节,闭环伺服系统没有反馈环节()答案:错6.自动线是在流水线的基础上,采用控制系统,将各台机床之间的工件输送、转位、定位和夹紧以及辅助装置动作均实现自动控制,并按预先设计的程序手动工作的生产线。
()答案:错7.学习与维护,智能制造系统能够在实践中不断的充实知识库,具有自学习功能。
同时,在运行过程中能自行故障诊断,并具备对故障自行排除、自行维护的能力。
这种能力使智能制造系统能够自我优化,并适应各种复杂的环境。
()答案:对8.磁感应传感器的主要作用是判断双作用气缸的位置,就是判断气缸是伸出还是缩回。
()答案:对9.自组织与柔性,根据获取的市场、设计和过程信息,制造单元和系统自行组成一种最佳结构的智能制造系统,以高效可靠的方式运行,完成给定的制造任务。
()答案:对10.传感部分的功能是用来收集机器人的内部和外部信息,如位置、速度、加速度传感器可检测机器人本体运动的状态。
()答案:对11.在生产线中数个工位之间设有工件储料装置,可储存一定数量的工件。
一个工位因故停止工作,上下工位仍可继续工作。
()答案:对12.点位式控制系统价格相对较高,因此其没有连续轨迹控制方式应用广泛。
()答案:错13.变频器的模拟量调速主要是靠改变电流或者电压来实现()答案:对14.工业4.0的时代,产业互联网技术的设备数量极为庞大,并且这些设备技术的复杂程度和控制难度因为分布式和跨行业的特点将远远大于消费互联网,供应物联网的安全风险和安全压力将远远小于消费互联网。
工业机器人技术试题库与答案工业机器人技术题库及答案一、判断题第一章1、工业机器人由操作机、控制器、伺服驱动系统和检测传感装置构成。
√2、被誉为“工业机器人之父”的XXX最早提出了工业机器人概念。
×(删除)3、工业机器人的机械结构系统由基座、手臂、手腕、末端操作器4大件组成。
×(改为:工业机器人的机械结构系统主要由基座、手臂、手腕和末端操作器组成。
)4、示教盒属于机器人-环境交互系统。
×(删除)5、直角坐标机器人的工作范围为圆柱形状。
×(改为:直角坐标机器人的工作范围为立方体形状。
)6、机器人最大稳定速度高,允许的极限加速度小,则加减速的时间就会长一些。
√7、承载能力是指机器人在工作范围内的特定位姿上所能承受的最大质量。
×(改为:承载能力是指机器人能够承受的最大质量。
)第二章1、工业机器人的机械部分主要包括末端操作器、手腕、手臂和机座。
√2、工业机器人的机械部分主要包括末端操作器、手腕、手肘和手臂。
×(改为:工业机器人的机械部分主要包括末端操作器、手腕、手臂和机座。
)3、工业机器人的手我们一般称为末端操作器。
√4、齿形指面多用来夹持表面粗糙的毛坯或半成品。
√5、吸附式取料手适应于大平面、易碎、微小的物体。
√6、柔性手属于仿生多指灵巧手。
√7、摆动式手爪适用于圆柱表面物体的抓取。
√8、柔顺性装配技术分两种:主动柔顺装配和被动柔顺装配。
√9、一般工业机器人手臂有4个自由度。
×(改为:一般工业机器人手臂有6个自由度。
)10、机器人机座可分为固定式和履带式两种。
×(改为:机器人机座可分为固定式和移动式两种。
)11、行走机构按其行走运动轨迹可分为固定轨迹和无固定轨迹两种方式。
√12、机器人手爪和手腕最完美的形式是模仿人手的多指灵巧手。
√13、手腕按驱动方式来分,可分为直接驱动手腕和远距离传动手腕。
√第三章1、正向运动学解决的问题是:已知手部的位姿,求各个关节的变量。