周二晚上，埃隆·马斯克的 Grok 发布了一项新的 AI 图像生成功能，就像 AI 聊天机器人一样，它几乎没有任何安全措施。这意味着你可以生成唐纳德·特朗普在 Joe Rogan 节目中吸食大麻的假照片，并将其直接上传到 X 平台。但真正推动这一疯狂行为的并不是埃隆·马斯克的 AI 公司；相反，一家新创业公司——黑森林实验室——才是这项备受争议的功能背后的推动者。
初创公司Black Forest Labs，为伊隆·马斯克的疯狂 AI 图像生成器提供支持
当 xAI宣布与 Black Forest Labs 合作，使用其 FLUX.1 模型为 Grok 的图像生成器提供支持时，两家公司的合作就被曝光了。Black Forest Labs 是一家于 8 月 1 日成立的 AI 图像和视频初创公司，它似乎赞同马斯克对 Grok 的愿景，即打造一款“反觉醒聊天机器人”，而没有 OpenAI 的 Dall-E 或谷歌的 Imagen 那样的严格限制。社交媒体网站上已经充斥着新功能的惊人图片。
初创公司Black Forest Labs，为伊隆·马斯克的疯狂 AI 图像生成器提供支持
据一份新闻稿称，Black Forest Labs 总部位于德国，最近获得了由 Andreessen Horowitz 领投的 3100 万美元种子资金。其他知名投资者包括 Y Combinator 首席执行官 Garry Tan 和前 Oculus 首席执行官 Brendan Iribe。这家初创公司的联合创始人 Robin Rombach、Patrick Esser 和 Andreas Blattmann 曾是帮助创建 Stability AI 稳定扩散模型的研究人员。
根据人工智能分析，Black Forest Lab 的 FLUX.1 模型在质量方面超越了 Midjourney 和 OpenAI 的 AI 图像生成器，至少在其图像领域的用户排名中是如此。
该初创公司表示，它正在“将我们的模型提供给广大受众”，并在Hugging Face和GitHub上开源 AI 图像生成模型。该公司表示，它还计划很快创建一个文本到视频的模型。
Grok 的图像生成完全没有滤镜。这是我见过的最鲁莽、最不负责任的 AI 实现之一。
— 亚历杭德拉·卡拉巴洛 (@Esqueer_) 2024 年 8 月 14 日
在发布会上，该公司表示其目标是“增强人们对这些模型安全性的信任”；然而，有些人可能会说，周三 X 上大量人工智能生成的图像起到了相反的作用。许多用户能够使用 Grok 和 Black Forest Labs 的工具创建的图像，例如手持突击步枪的皮卡丘，无法使用 Google 或 OpenAI 的图像生成器重新创建。毫无疑问，受版权保护的图像被用于模型的训练。
缺乏保障措施可能是马斯克选择这位合作伙伴的主要原因。马斯克明确表示，他认为保障措施实际上会降低人工智能模型的安全性。“训练人工智能被唤醒——换句话说，撒谎——的危险是致命的，”马斯克在 2022 年的一条推文中说道。
Black Forest Labs 董事会董事 Anjney Midha 在 X 上发布了一系列Google Gemini 和 Grok 的 Flux 合作项目在发布第一天生成的图像的比较。该帖子突出了 Google Gemini 在创建符合历史的人物图像方面存在的问题，特别是不恰当地将种族多样性注入图像中。
Midha 在推文中表示：“我很高兴@ibab和团队认真对待此事并做出了正确的选择”，他指的是 FLUX.1 似乎回避了这个问题（并提到 xAI 首席研究员 Igor Babuschkin 的描述）。
由于这一失误，谷歌于 2 月份道歉并关闭了Gemini 生成人物图像的功能。截至今天，该公司仍然不允许 Gemini 生成人物图像。
这种普遍缺乏保障的现象可能会给马斯克带来麻烦。当 AI 生成的代表泰勒·斯威夫特的深度伪造露骨图像在平台上疯传时，X 平台受到了批评。除了那次事件之外，Grok 还会生成幻觉标题，几乎每周都会出现在 X 上的用户面前。
就在上周，五位国务卿敦促 X 停止在 X 上传播有关卡马拉·哈里斯的错误信息。本月早些时候，马斯克转发了一段使用人工智能克隆哈里斯声音的视频，让它看起来好像副总统承认自己是“多元化雇员”。
马斯克似乎有意让此类错误信息充斥整个平台。通过允许用户直接在平台上发布 Grok 的 AI 图像（这些图像似乎没有任何水印），他实际上是打开了一条错误信息的“消防水带”，指向每个人的 X 新闻源。
相关文章
