打击网络小恶霸！Yahoo 打造能自动侦测九成霸凌语言的演算法
半导体行业观察霸凌是社会环境中不容忽视的重要问题，这样的歪风不仅仅可能出现在台面上看的见的地方，台面下的恶斗更是波涛汹涌，网络霸凌就是其中之一。而此风不可长，Yahoo 实验室的研究团队近期也正着手研究能侦测出“话中有话”的网络霸凌语言，经研究测试后更发现准确率高达九成！
近来，许多社交网站积极对付网络霸凌，像是日前，演出电影《魔鬼克星》的女星 Leslie Jones 就因在 Twitter 上遭受网络霸凌，最后黯然宣布关闭个人推特，这件事也引起了 Twitter 的注意，更让 Twitter 大动作的主动关闭带起这波歪风的 Milo Yiannopoulos 推特，也让人真正意识到网络霸凌的可怕。
而 Yahoo 也不落人后，在近期成功开发出能自动侦测出网络霸凌语言的演算法。然而，一般的自动侦测仅能依照使用者所设定的“黑名单”，像是某些三字经等特定字词或词组才会让社交网站侦测到有所谓的网络霸凌。但，骂人的方式有很多种，更有许多人能骂人不带脏字，跟其他社交不同的是，Yahoo 研究团队要做的就是突破特定语词的限制，找到那些话中有话的网络霸凌。
在研发过程中，Yahoo 利用机器学习中一种叫做“词向量（word embedding）”的方式，让电脑能够在即便每个字分开来看本身都不带有侵略性的时候，却也能在看出这一连串的语句是否有霸凌的成分。经测试后，Yahoo 研究团队的演算法竟能成功侦测其数据组中的九成是否是在霸凌他人。
九成的数据听起来虽不是相当的完美，但来自英国社交分析中心的网络霸凌研究学者 Alex Krasodomski-Jones 也表示，当人类也没有办法完完全全分辨出哪一句话是带有歧视性，或者是霸凌的成分在时，你就知道要成功让一个电脑侦测出九成的网络霸凌语言是有多困难的一件事了。
相关链接
- Yahoo Has a Tool that Can Catch Online Abuse Surprisingly Well
- Yahoo researchers built a powerful new online abuse detector
（首图来源：Engadget）
如需获取更多资讯，请关注微信公众账号：半导体行业观察
-
- 半导体行业观察
-
- 摩尔芯闻
最新新闻
热门文章 本日 七天 本月
- 1 国产EDA突破，关键一步
- 2 思尔芯第八代原型验证S8-100全系已获客户部署，双倍容量加速创新
- 3 在这个平台上，硬件创新跑出了“中国速度”
- 4 Ampere 年度展望：2025年重塑IT格局的四大关键趋势
热门评论
©2023 半导体行业观察
Copyright©2023 上海爱思尔教育科技有限公司 皖ICP备19011903号-2 皖公网安备 34019202000656号