(华盛顿综合电)美国监管机构对OpenAI等六家科技公司开发的人工智能聊天机器人展开调查,重点关注这类工具对儿童和青少年的潜在风险。
美国联邦贸易委员会星期四(9月11日)宣布启动这项调查,旨在研究企业如何评估、测试和监控自家开发的人工智能(AI)聊天机器人,以及为限制青少年使用这些工具所采取的措施。
其他接到调查指令的公司还包括谷歌母公司Alphabet、脸书母公司Meta、Snap公司、亿万富豪马斯克的xAI,以及Character Technologies公司。
随着AI聊天机器人日益复杂和普及,它们对青少年群体等脆弱用户的心理影响引发广泛质疑。
这次调查针对的是利用生成式AI模拟人类交流和情感的数码伴侣式聊天机器人,它们通常以朋友或知己身份向用户示好。监管机构担忧青少年群体可能更容易受到这类AI系统影响,进而与之建立情感联系。
调查本身不具有特定执法目的,但可能为未来的监管行动提供依据。这次调查重点审查平台如何处理用户对话中的个人信息,以及执行年龄限制的措施。
联邦贸易委员会主席弗格森表明,保护儿童网络安全是委员会的首要任务,并强调须要在保障儿童安全与维持美国AI创新领导地位之间,取得平衡。

