Facebook开发人工智能软件,防止用户自杀

  本周一,Facebook称已经成功将模式识别软件用于监测其美国用户的自杀倾向,并将把这个监测软件推广到其他国家。

Facebook开发人工智能软件,防止用户自杀

  早在今年三月份,通过扫描分析用户发表的有自杀倾向的帖子或评论,Facebook首先对其美国用户使用这个软件。对于这个软件的技术细节,Facebook并没有透露,不过该公司称这个软件会搜索那些可能是自杀线索的短语或句子,比如“你好吗?”和“需要帮助吗?”。

  一旦检测到潜在的自杀倾向,该模式识别软件将发送通知给Facebook专门处理此类事件的员工。该软件会立即给发帖的用户或其朋友发送一些有用信息,比如帮助热线电话。有时,Facebook员工还会通知当地政府来干预此类事件。

  Facebook副总裁Guy Rosen称由于该软件在美国成功测试,于是准备推广到其他国家,让其他国家的Facebook用户也用上这个软件。他说:“响应速度真的很重要,我们必须及时地帮助那些需要帮助的用户。”

  去年,在Facebook上线直播功能后,就出现了某些用户的违规行为,比如直播自杀。这给公司形象带来了威胁。Facebook称其已经雇佣了超过3000员工用于监控视频和其他内容。

  Rosen没有提到具体将会对哪些国家的Facebook用户应用此软件,不过他说最终会使除欧盟外的国家的用户都用上,除去欧盟是由于某些敏感原因。

  其他科技公司也采取了类似措施来阻止用户自杀,比如谷歌会在用户搜索自杀相关词汇时显示帮助热线电话。

相关内容