据周五的一篇博客文章称，OpenAI 已禁止与伊朗影响力行动有关的一组 ChatGPT 账户，该行动正在生成有关美国总统大选的内容。该公司表示，该行动创建了人工智能生成的文章和社交媒体帖子，尽管它似乎并没有吸引太多受众。
OpenAI 关闭了使用 ChatGPT 影响选举的行动
这并不是 OpenAI 第一次恶意封禁与政府相关人员有关的账户。5 月份，该公司阻止了五次使用 ChatGPT 操纵舆论的活动。
这些事件让人想起国家行为者利用 Facebook 和 Twitter 等社交媒体平台试图影响之前的选举周期。现在类似的团体（或许是同一个团体）正在使用生成式人工智能向社交渠道大量发布错误信息。与社交媒体公司类似，OpenAI 似乎采取了“打地鼠”的方法，一旦出现与这些努力相关的账户，就会被封禁。
OpenAI 表示，对这组账户的调查受益于微软上周发布的一份威胁情报报告，该报告认定该组织（称之为 Storm-2035）是自 2020 年以来影响美国大选的更广泛活动的一部分。
微软表示，Storm-2035 是一个伊朗网络，其多个网站模仿新闻媒体，并“积极与美国政治光谱两端的选民团体接触，就美国总统候选人、LGBTQ 权利和以色列与哈马斯冲突等问题发表两极分化的信息。”正如在其他行动中被证明的那样，该策略不一定是为了推广某项政策，而是为了传播异议和冲突。
OpenAI 为 Storm-2035 确定了五个网站前端，既有进步的新闻机构，也有保守的新闻机构，并且使用了令人信服的域名，例如“evenpolitics.com”。该小组使用 ChatGPT 撰写了几篇长篇文章，其中一篇声称“X 审查特朗普的推文”，而埃隆·马斯克的平台当然没有这样做（如果说有什么不同的话，那就是马斯克鼓励前总统唐纳德·特朗普更多地参与 X 活动）。
OpenAI 关闭了使用 ChatGPT 影响选举的行动
虚假新闻机构运行 ChatGPT 生成内容的一个例子。
图片来源： OpenAI
在社交媒体上，OpenAI 发现了十几个 X 账户和一个由该行动控制的 Instagram 账户。该公司表示，ChatGPT 被用来重写各种政治评论，然后发布在这些平台上。其中一条推文错误且令人困惑地声称卡玛拉·哈里斯将“移民成本增加”归咎于气候变化，后面跟着“#DumpKamala”。
OpenAI 表示，没有证据表明 Storm-2035 的文章被广泛传播，并指出其大多数社交媒体帖子几乎没有获得点赞、分享或评论。这些操作通常都是这种情况，使用 ChatGPT 等人工智能工具可以快速且廉价地启动。随着选举临近和网上党派之争加剧，预计会看到更多这样的通知。
相关文章
