优优娱乐平台-优优娱乐官方网站|www.99uu.com【点击进入】

?
  • 资讯
  • News
  • 行业资讯
  • IndustryNews
  • 对网络暴力说 NO,AI 让仇恨言论无处可躲

       从论坛的评论区、社交平台到网游的聊天区,“瘟疫”般的仇恨言论游走在互联网的各个角落。
     
      近日,加拿大麦吉尔大学的 Haji Mohammad Saleem 及其团队,通过让 AI 软件学习仇恨言论社区成员的说话方式,从而可以自动识别出仇恨言论。他们在一个数据库中训练机器学习系统,该数据库包含了 2006 年至 2016 年间 Reddit 的大部分帖子,比之前基于关键字标记的系统准确率更高。
    对网络暴力说 NO,AI 让仇恨言论无处可躲
      因为语言的灵活性和模糊性,识别出真正的仇恨言论并不容易。有时人们只是随口说一些粗鲁的词汇,并不能表明他们心里就是这么想的。日常生活中,人们会为了各种原因而骂人,甚至朋友之间也会互爆粗口。
     
      目前论坛等网络平台获取仇恨言论的途径,大都来自用户举报。时刻紧盯住那些层出不穷的负面言论,是人力无法完成的。
     
      今年年初,谷歌开发了 Perspective 软件,它可以快速地甄别辱骂性评论,便于人工审核。它的工作原理是基于在线评论与被贴上“有毒”标签的评论的相似度。但随后该软件技术的不成熟开始显露,评分机制出现了诸多弊端,比如:有的言论是“作为一个女孩,你真是太聪明了”,它和恶意言论的相似性达到18%;而“我喜欢希特勒”这样的言论却只有2%。
    对网络暴力说 NO,AI 让仇恨言论无处可躲
      不同于这种基于关键字标记的方法,此次加拿大研究人员研发的系统另辟蹊径。
     
      该系统主要研究针对非洲裔美国人、肥胖人群以及女性的言论。在 Reddit 或 Voat(一个和 Reddit 类似的网站)上,以这些人群为主题的言论俯拾皆是。该团队找到其中最活跃的两种社区:一种社区爱发恶评,一种社区爱发友好的言论。他们锻炼 AI 软件学习这两种社区成员的言论特点,提高该系统正确识别负面言论的能力。
     
      研究结果证明,该方法比基于关键字标记的系统更加精准,并且几乎不会误判。有些言论中并不包含常规的侮辱性词汇,但它也属于仇恨言论。如果使用以前的方法是识别不了的,但现在就可以了。比如:“我没觉得这有什么问题,动物之间总是互相攻击。”这句话就被该系统标记为仇恨言论,因为这里的“动物”一词带有种族侮辱的含义。
     
      目前该 AI 软件能够成功抓取 Reddit 平台上的仇恨言论,但其研究团队未表示该系统是否在其他平台,如 Twitter 或 Facebook 上也有同样的水准。
     
      “这个方法虽然行得通,但它抓取的结果并不全面,有时还会遗漏。”英国巴斯大学的 Joanna Bryson 说。
     
      正如他所言,该系统会错过一些很明显的仇恨言论,如“黑人都很糟糕”等具有明显种族歧视或肥胖歧视的言论。然而对于此类言论,基于关键词监测的旧办法却能轻而易举地识别出来。
     
      但是不可否认,这些工具确实能成为平台管理人员的“得力助手”。“基本上,仇恨言论是一种主观现象,需要人们发挥自己的判断力去甄别。”一名研究人员说。
    声明:凡资讯来源注明为其他媒体来源的信息,均为转载自其他媒体,并不代表本网站赞同其观点,也不代表本网站对其真实性负责。您若对该文章内容有任何疑问或质疑,请立即与优优娱乐机器人网(www.robot-china.com)联系,本网站将迅速给您回应并做处理。
    电话:021-39553798-8007
    [打印文本] [ ]
    ?
    全部评论(0
    TOP Bookmark