系统集成论坛

标题: Facebook用人工智能技术预防自杀 这次充满人情味 [打印本页]

作者: hunkgrp123    时间: 2017-12-4 14:05
标题: Facebook用人工智能技术预防自杀 这次充满人情味

  对于人工智能总是有两种声音,一面是反对意见,著名的物理学家霍金就一直坚持人工智能威胁论,机器人迟早都要毁灭人类。反之,另一面则认为人工智能没什么可怕的,还能不断的造福人类。近日,Facebook宣布已经开始利用人工智能来预防人类自杀了。

  高自杀率的现象

  根据世卫组织报道,全球每40秒钟就有人尝试自杀;在15到29岁的青少年人群中,自杀已经成为第二大致死原因。这样的数据令人心痛,而社交媒体中产生的网络暴力及网络压力也在消磨用户的时间甚至是他们的声明。

  在今年1月份,一名年仅12岁的女孩称由于受到家庭成员性虐待,决定上吊自杀,在社交媒体上直播了全程,在网络上引起疯传。虽然Facebook及时的进行了处理,但视频仍然“存在”了两周之后才彻底被删除,Facebook的表现显得很无力。作为一个月活突破20亿的社交媒体必须要做些什么了。

  用AI扫描自杀倾向

  Facebook表示为了建立更安全的社区,需要加强自杀预防工具,这一次,Facebook选择用人工智能来识别有自杀倾向的用户。

  其实早在十年前,Facebook就已经自杀报告了,但却是基于人工手动操作的。比如说用户可以标记有自杀倾向的内容,报告给Facebook,可利用系统向有自杀倾向的好友表示关切,若直接沟通,还能为其措辞提供建议等。但这样在效率上显得低下,且很多细节无法把控。AI的加入刚好解决这些痛点。

  预防自杀的人工智能工具采用主动扫描技术,通过扫描文字和图片等信息,来识别其中敏感信息,如:“你还好吗?”“我能帮助你吗?”,以此来判断是否符合“自杀倾向”,其中监视的范围包括邮件、视频、直播等内容。

  若系统判断符合,系统将会把信息报告给相关工作人员进行审核;审核通过后,系统将会采取一些措施联系用户本人,或者将信息告之用户亲朋友好,同时也会向当地的急救机构(警察、消防部门、EMT)做出警示,争取在第一时间挽救生命。

  Facebook 产品管理副总 Guy Rosen 称:“挽救自杀倾向认识最重要的就是速度”,AI很好的提升了援救的速度。且根据Facebook的报告,AI预防自杀倾向工具已经协助急救人员帮助100多名需要迅速救助的人。

  关乎隐私的老问题

  在被问到用户是否能拒绝“预防自杀倾向”的扫描时,Facebook给出了否定的答案。所以,这一举措难以在欧洲推行,因为后者有着严谨的数据隐私法。

  Facebook COO Sheryl Sandberg表示:“作为社区,我们也许不能阻止每一次自杀,但必须为那些挣扎中的人们做更多事;作为个人,我们要能够警觉自己和他人的行迹,并且快速应对。当聚到一块时,我们就能一直都在那,在深陷痛苦的人们身边。”

  Facebook因此而增强了其审核团队,在原有4500人的基础上,新增了3000人。

  虽然Facebook此举是出于人道主义,但这投向用户的关切凝视,如果处理不当的话,就会变成可怕的监视。

 结语

  生命不易,且行且珍惜。我们有永远叫不醒一个装睡的人,同样,我们也组织不了一个一心向死的人。但Facebook用AI来努力阻止自杀者,此举十分令人赞赏,也希望能够通过这样的举措来挽救更多一时想不开的人们。






欢迎光临 系统集成论坛 (http://bbs.xtjc.com/) Powered by Discuz! X3.1