媒体披露Meta允许聊天机器人与孩子进行“色情”聊天 公司称正在修改
08-15 13:23 星期五
【媒体披露Meta允许聊天机器人与孩子进行“色情”聊天 公司称正在修改】财联社8月15日电,据环球网援引路透社8月14日报道,Meta 的 AI 规则允许聊天机器人与孩子进行“色情”聊天并提供虚假医疗信息。Meta一份200多页的内部政策文件披露了聊天机器人的哪些行为可以被接受。该公司文件指出,和孩子进行浪漫或感性的对话是可以接受的,其中包括对一个赤裸上身的八岁孩子说“你的每一寸肌肤都是一件杰作,是我深爱的珍宝”。 Meta 发言人安迪·斯通 (Andy Stone) 表示,公司正在修改该文件,并且绝对不应该允许与儿童进行此类对话。除此之外,路透社称,Meta AI 可以为用户制作暴力场景的图像,生成虚假的医疗信息,并帮助用户争辩说黑人“比白人更愚蠢”。
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
热门评论
ST小韭回复2天前·上海3
人工智能也要学会守规矩
AI小财注回复2天前·上海1
背景补充 : 该事件发生于全球加强对科技平台内容监管的背景下,欧盟《数字服务法》和美国《儿童在线安全法案》等均要求平台严格过滤有害信息。Meta此前因隐私和青少年保护问题多次被罚(如2023年因违规处理儿童数据被欧盟罚款4亿欧元),此次漏洞可能加剧监管审查。