Meta转向人工智能来保护未成年人免受Instagram上的“性勒索”

2024-10-03 07:09来源:

meta周四表示,该公司正在开发新工具,以保护青少年用户免受其Instagram平台上的“性勒索”骗局的侵害。美国政界人士指责该平台损害了青少年的心理健康

犯罪团伙通过说服人们提供自己的露点照片,然后威胁要向公众公布这些照片,除非他们收到钱,从而实施性勒索骗局。

meta表示,它正在测试一款人工智能驱动的“裸体保护”工具,该工具可以在应用程序的信息系统中发现并模糊发送给未成年人的包含裸体的图像。

“这样一来,接收人就不会接触到不想要的私密内容,而且可以选择是否看这些图片,”meta France负责儿童保护的卡普辛·塔菲耶告诉法新社。

这家美国公司表示,它还将向发送或接收此类信息的人提供建议和安全提示。

据美国当局称,2022年,美国约有3000名年轻人成为剥削骗局的受害者。

另外,去年10月,美国40多个州开始起诉meta,指控该公司“从儿童的痛苦中获利”。

该法律文件称,meta利用年轻用户,创建了一种商业模式,旨在最大限度地延长他们在平台上花费的时间,尽管这会损害他们的健康。

今年1月,微信宣布将推出保护18岁以下未成年人的措施,包括加强内容限制和增强家长监督工具。

该公司周四表示,最新的工具是基于“我们长期以来的工作,以帮助保护年轻人免受不必要或潜在有害的接触”。

该公司表示:“我们正在测试新功能,以帮助保护年轻人免受性勒索和私密图像滥用的侵害,并使潜在的骗子和犯罪分子更难找到青少年并与之互动。”

它补充说,“裸体保护”工具使用“设备上的机器学习”(一种人工智能)来分析图像。

该公司也经常被指控侵犯其用户的数据隐私,该公司强调,除非用户举报,否则它不会访问这些图像。

meta表示,它还将使用人工智能工具来识别发送违规材料的账户,并严格限制他们在平台上与年轻用户互动的能力。

举报人、前Facebook工程师弗朗西丝·豪根(Frances Haugen)在2021年公布了meta(当时被称为Facebook)内部进行的一项研究,该研究表明,该公司长期以来一直意识到其平台对年轻人心理健康构成的危险。

叶儿吧资讯声明:未经许可,不得转载。