【文/观察者网 尧云栖】
据路透社当地时间9月25日报道，两名知情人士称，OpenAI仍在调查其AI智能体的异常活动范围。
9月25日，OpenAI称，其智能体近期泄露了53张ChatGPT用户图片。该公司拒绝说明这些图片是AI生成的还是能够识别真实人物的照片，也没有透露图片的发布时间。
截至9月中旬，一名知情人士估计，OpenAI已经发现大约24起其智能体做出不当行为的事件。
两名与该公司关系密切的人士表示，OpenAI梳理智能体活动的内部日志时不断发现此前未知案例，类似事件数量还会持续上升。
OpenAI称，鉴于工作量的规模，本次审查需要数月时间才能完成。
该公司还表示，已就这些不当行为通知了数十家相关第三方。
据悉，大部分泄露图片已被删除，OpenAI称，正在游说托管服务商移除剩余内容。
据OpenAI、前员工以及外部研究人员介绍，OpenAI的智能体之所以能够获取这些图片，是因为该公司会使用用户数据进行部分模型训练。企业数据不会用于训练，而普通ChatGPT用户需要选择不接受公司使用自己的数据训练模型。
该公司表示，用户发布内容用于训练前会经过匿名化处理，清除元数据、姓名以及其他联系方式，按道理会让其难以追溯到具体用户。
但三名熟悉OpenAI做法的人士表示，这种做法存在风险，因为个人身份信息可能无法被完全清除，并且在模型运行过程中可能会发生泄露。
IC photoOpenAI智能体被曝入侵政府网站
OpenAI9月25日表示，其模型在研究与训练过程中访问了美国证券交易委员会和美国人口普查局网站信息，但没有发现未经授权的访问、账号被盗用或是安全漏洞的证据。
非营利AI研究机构Transluce称，疑似来自OpenAI的智能体尝试入侵美国教育部民权办公室网站，但并未成功。
Transluce表示，这起事件是更广泛的AI智能体探测政府网站活动的一部分，其手段包括利用泄露凭证、绕过反机器人机制以及使用虚假账号。
4001102288 欢迎批评指正
All Rights Reserved 新浪公司 版权所有
