典型文献
基于强化学习的伦理智能体训练方法
文献摘要：
自动驾驶汽车、看护机器人等形式多样的智能体在人类生活中扮演着越来越重要的角色,其伦理问题受到了广泛关注.为使智能体具备遵守人类伦理规范的能力,提出了 一种基于众包和强化学习的伦理智能体训练方法.首先,采用众包获取行为示例数据集,并借助于文本聚类、关联分析等技术生成情节图及轨迹树,以定义智能体的基本行为空间、表明行为的发生顺序;其次,提出元伦理行为的概念,通过对不同场景中的相似行为进行概括,扩展伦理智能体的行为空间,进一步基于《中学生日常行为规范》提取了 9种元伦理行为;最后,提出了行为分级机制及与之对应的强化学习奖惩函数,以此为基础完成伦理智能体训练.通过模拟人类生活中的买药场景,分别使用 Q-learning算法及DQN(deep Q-networks)算法完成了伦理智能体的训练实验.实验结果表明,训练后的智能体能够以符合伦理的行为方式完成预期任务,验证了所提方法的合理性与有效性.
文献关键词：
伦理智能体;符合伦理的设计;伦理分级;强化学习;众包
中图分类号：
作者姓名：
古天龙;高慧;李龙;包旭光;李云辉
作者机构：
暨南大学网络空间安全学院 广州 510632;广西可信软件重点实验室(桂林电子科技大学) 广西桂林 541004
文献出处：
引用格式：
[1]古天龙;高慧;李龙;包旭光;李云辉-.基于强化学习的伦理智能体训练方法)[J].计算机研究与发展,2022(09):2039-2050
A类：
伦理智能体,符合伦理的设计,伦理分级
B类：
强化学习,训练方法,自动驾驶汽车,看护,人类生活,伦理问题,伦理规范,众包,获取行为,示例,借助于,文本聚类,以定,本行,行为空间,元伦理,伦理行为,同场,中学生,生日,日常行为,行为规范,分级机,奖惩,拟人,买药,learning,DQN,deep,networks,行为方式
AB值：
0.315594
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
