No menu items!

    OpenAI:中国团体利用ChatGPT从事恶意操作 与日俱增

    聊天机器人ChatGPT的开发商OpenAI在今天发布的报告中指出,利用其人工智能(AI)技术从事秘密行动的中国团体有与日俱增趋势。(路透)

    聊天机器人ChatGPT的开发商OpenAI在今天发布的报告中指出,利用其人工智能(AI)技术从事秘密行动的中国团体有与日俱增趋势。

    路透报导,OpenAI表示,尽管这些团体的行动范围和运用技巧已然扩大,侦测到的行动总体规模通常较小而且只针对有限的对象。

    ChatGPT于2022年底问世后,就一直存在生成式AI技术会带来何种潜在后果的疑虑。ChatGPT能够轻而易举生成类似人类创作的文本、图像和声音。

    OpenAI针对平台侦测到的恶意活动定期发布报告。

    在一起案例中,OpenAI封锁了一些ChatGPT的帐号,这些帐号生成与中国相关的政治和地缘政治话题社媒贴文,包括批评一款以台湾为主题的电玩游戏、对一名巴基斯坦维权人士的不实指控,以及与美国国际开发总署(USAID)关闭的相关内容。

    部份内容也批评美国总统川普的全面性关税,并生成社群平台X上的贴文,例如:「关税让进口商品贵得离谱,政府却在对外援助上乱花钱,这苦果还得我们继续吞?」

    在另一个案例中,与中国相关的威胁行为者利用AI支持其网络行动的不同阶段,其中包括开源情报搜集、脚本修改、系统配置故障排除,以及开发用于密码暴力破解和社群媒体自动化的工具。

    OpenAI发现的第3个案例是源自中国的影响行动,该行动制造分裂议题社媒贴文,分别支持美国政治议题中对立的双方,并搭配AI生成的帐号头像。

    中国外交部未立即回应路透针对OpenAI报告的评论请求。

    OpenAI宣布在新一轮融资中筹集400亿美元,融资后OpenAI估值达3000亿美元,巩固其身为全球最有价值的未上市公司之一的地位。

    热点

    发表评论