AI 机器人遇到“提示注入”攻击

研究人员发现了一种被称为“提示注入”的技术，可以将 AI 机器人重定向到重复令人尴尬和可笑的短语。一些推特用户在这个发现之后，劫持了一个在 GPT-3 语言模型上运行的自动推特机器人，从而导致该 AI 机器人被迫关闭。注入式攻击的概念并不新鲜，如 SQL 注入、XSS，但防御“提示注入”的困难来自于 AI 没有正式的语法，因而不像其他注入攻击那样纠正语法就能防御大部分攻击。

消息来源：ARS Technica

老王点评：我想，AI 或许很快就会“进化”出防御的能力。

Ubuntu 支持更多来自中国的 RISC-V 板卡

除了支持赛昉的昉·星光和全志的哪吒 RISC-V 板卡外，Canonical 工程师也在努力为下个月的 Ubuntu 22.10 添加更多的 RISC-V 板卡支持。他们正在为一款起价为 16.90 美元的 RISC-V 板卡 Sipeed Lichee RV 提供支持。它是一块带有 M.2 接口的计算模块板，可以连接到载体板。它使用全志 D1 SoC，采用单核玄铁 C906 64 位 RISC-V 处理器，运行频率仅为 1.0GHz。这是一块非常便宜但很慢的板卡，适用于物联网领域。

消息来源：Phoronix

老王点评：看起来 Canonical 越来越重视 RISC-V 了，而且，中国的 RISC-V 厂商进展也不错。

Craigslist 的界面和 25 年前一样

分类广告网站 Craigslist 自 1995 年上线以来，其页面外观一直没有变化。其创始人称，对使用这个网站的用户来说，它简单又方便，这就足够了。他说作为一名工程师，简单就是美，实用就是美。Craigslist 总共只有 10 名员工，从事开发、客服和会记工作，没有任何人从事销售工作。

消息来源：PCMag

老王点评：你认同他的说法吗？我觉得还是懒 —— 不过话说也有一些人批评 Linux 中国好多年没改版的网站很丑。至于我们这么多年没改版的原因就不说了，我只能说新版就来了，就来了，只要小白不烂尾……

DeepMind 研究员论文称 AI 将消灭人类

来自谷歌 DeepMind 和牛津大学的研究人员发表的一篇新论文称，超级智能的 AI “很可能” 会给人类带来生存灾难。这篇论文设想地球上的生命将变成人类与超级先进的机器之间的零和游戏。他们认为，在一个资源有限的世界里，对这些资源的竞争是不可避免的。在未来的某个时刻，监督某些重要功能的高级 AI 可能被激励想出作弊策略，以损害人类的方式获得其奖励。

消息来源：VICE

老王点评：虽然可以按照阿西莫夫机器人三定律的原则设计一些 AI 自限的规则，不过，说到底，还是要让 AI 认为人类的存在是必要的才行。

AI 机器人在论坛模仿发帖，导致用户互相指责对方是机器人

一位 YouTube 主播利用论坛的内容训练了一个 AI 语言模型，并将该 AI 模型用于 10 个机器人程序，然后在 24 小时内发了 1.5 万个论坛帖子。这些机器人虽然偶尔会犯错，但该论坛的用户花了两天时间才注意到问题，并识别出了其中一个机器人账号。机器人账号导致了用户之间的不信任，即使在关闭了这些机器人之后，用户彼此之间仍然会指责对方是机器人。

消息来源：Solidot

老王点评：过去是安能辨我是雌雄，现在是谁知道你是不是个机器人呢？

微软 Teams 以明文方式存储授权令牌

安全分析师在微软 Teams 的桌面应用程序中发现了一个严重的安全漏洞，它在 Windows、Linux 和 Mac 中以明文方式存储授权令牌，使威胁者能够访问认证令牌和开启了多因素认证（MFA）的账户。研究人员在 2022 年 8 月发现了这个问题，并向微软报告。然而，微软并不同意这个问题的严重性，并表示它不符合打补丁的标准。由于微软不准备提供补丁修复，专家建议用户改用浏览器版本的微软 Teams 客户端。

消息来源：BleepingComputer

老王点评：或许微软有自己的逻辑，不过微软这种否认后再提供补丁的事情也不少。

回音

• 美国财政部上个月宣布制裁混币器 Tornado Cash 后引来了反对诉讼，现在它 澄清 制裁不涉及源代码，美国人可以查看、复制、讨论和教授源代码，或将源代码包含在书面出版物中。

Stable Diffusion 是一个“文本到图像”的人工智能模型。近日，Stable AI 公司向公众开放了它的预训练模型权重。当输入一个文字描述时，Stable Diffusion 可以生成 512×512 像素的图像，这些图像如相片般真实，反映了文字描述的场景。

这个项目先是经历了早期的代码发布，而后又向研究界有限制地发布了模型权重，现在模型权重已经向公众开放。对于最新版本，任何人都可以在为普通消费者设计的硬件上下载和使用 Stable Diffusion。该模型不仅支持文本到图像的生成，而且还支持图像到图像的风格转换和放大。与之一同发布的还有 DreamStudio 测试版，这是一个用于该模型的 API 和 Web 用户界面。

Stable AI 公司表示：

“Stable Diffusion 是一个文本到图像的模型，它将使数十亿人在几秒钟内创造出令人惊叹的艺术。它在速度和质量上的突破意味着它可以在消费者级的 GPU 上运行。这将允许研究人员和公众在一系列条件下运行它，并使图像生成普及化。我们期待着有围绕这个模型和其他模型的开放生态系统出现，以真正探索潜伏空间的边界。”

Latent Diffusion 模型（LDM）是 Stable Diffusion 模型建立的一种图像生成方法。LDM 通过在 潜伏表示空间 latent representation space 中迭代“去噪”输入来创建图像，然后将表示解码为完整的图像，这与其他著名的图像合成技术，如生成对抗网络（GAN）和 DALL-E 采用的自动回归方法不同。最近的 IEEE/CVF 计算机视觉和模式识别会议（CVPR）上有一篇关于 LDM 的论文，它是由慕尼黑路德维希-马克西米利安大学的机器视觉和学习研究小组创建的。今年早些时候，InfoQ 也报道的另一个基于扩散的图片生成 AI 是谷歌的 Imagen 模型。

Stable Diffusion 可以支持众多的操作。与 DALL-E 类似，它可以生成一个高质量的图像，并使其完全符合所需图像的文字描述。我们也可以使用一个直观的草图和所需图像的文字描述，从而创建一个看起来很真实的图像。类似的“图像到图像”的能力可以在 Meta AI 的 Make-A-Scene 模型中找到，该模型刚发布不久。

一些人公开分享了 Stable Diffusion 创建的照片的例子，Stable AI 的首席开发人员 Katherine Crowson 也在 Twitter 上分享了许多照片。毫无疑问，基于人工智能的图片合成技术将对艺术家和艺术界产生影响，这令一些观察家感到担忧。值得注意的是，在 Stable Diffusion 发布的同一周，一幅由人工智能生成的作品在科罗拉多州博览会的艺术竞赛中获得了最高荣誉。

Stable Diffusion 的源代码可以在 GitHub 上查阅。

via: https://www.opensourceforu.com/2022/09/image-generation-model-stable-diffusion-is-now-open-source/

作者：Laveesh Kocher 选题：lkxed 译者：lkxed 校对：wxy

本文由 LCTT 原创编译，Linux中国 荣誉推出

软件自由保护协会接受 Sourceware.org

在过去的二十年里，红帽一直在 Sourceware.org 背后为 Cygwin、GNU GCC、GDB、Glibc 等开源项目提供托管服务。虽然红帽公司继续赞助托管，并让他们的员工参与该网站的维护，但为了确保未来的安全，他们一直在寻求与软件自由保护协会（SFC）合作。现在，SFC 已经投票赞成将这个长期的开源托管服务纳入其保护范围。SFC 是一个以道德技术为中心的非营利性组织。红帽将继续慷慨地赞助硬件、连接和它所需要的非常少的员工时间，作为一个“财政赞助商”发挥作用。

消息来源：Phoronix

老王点评：为红帽点赞，也为 SFC 点赞，这才真正是开源的脊梁。

三量子位突破有助于开发实用的量子计算机

据一项发表在《自然》杂志上的研究，日本理化学研究所的研究人员在大规模量子计算方面取得了重大进展，他们展示了对一个三量子比特系统（硅中最大的量子比特系统之一）的完全控制，从而首次提供了硅中量子纠错的原型。其意义在于可能有助于使实用的量子计算机成为现实。

消息来源：SciTechDaily

老王点评：我觉得有点比较乐观。

英伟达的旗舰 AI 芯片比前一代快了 4.5 倍

英伟达昨天宣布，其即将推出的 H100 张量核心 GPU 在行业标准 MLPerf 基准测试中的首次亮相，创造了新的性能记录，其结果比 A100 快 4.5 倍，A100 是 Nvidia 目前最快的生产型 AI 芯片。该芯片仍在开发中，预计将取代 A100。H100 可以加速类似于 GPT-3 的自然语言模型。MLPerf 基准测试可以表明芯片能够将先前训练的机器学习模型应用于新数据的程度。

消息来源：Ars Technica

老王点评：英伟达的芯片技术真是强。

微软杀毒软件将 Chrome 和 Edge 识别为恶意软件

微软承认 Windows 内置的防病毒软件 Defender 将谷歌的 Chrome 浏览器、微软基于 Chromium 的 Edge 浏览器、Docker 桌面版、Discord 等几款主流应用标记为恶意软件。他们表示将几小时内发布补丁。这是 Defender 今年第三次发生此类事件：今年早些时候，一些 Chrome 的更新被标记为潜在有害；3 月份，该公司将自己的 Office 更新标记为勒索软件威胁。

消息来源：Windows Latest

老王点评：消息很短，事情也不复杂，就是 Defender 挺离谱。连自家的 Edge 都不放过。

科学家使用机器学习打造动物的“谷歌翻译”

动物的交流远比人耳听起来要复杂得多，比如，不仅每只鼹鼠都有自己的发声特征，而且每个群体都有自己的方言，甚至鼠王更替后会出现新的“官方语言”。近年来，科学家们已经开始使用机器学习来解码动物的沟通，来识别吱吱作响的小鼠何时受到了压力，或者果蝠为何在叫喊。甚至更雄心勃勃的项目正在进行中 —— 创建一个全面的乌鸦叫声目录，绘制抹香鲸的语法，甚至建立允许人类回话的技术。

消息来源：纽约时报

老王点评：小时候看的幻想故事里面人能和动物交流，但是那时候也没人告诉我们这是通过“人工智能”实现的啊。

GNU Grep 3.8 开始提醒不要使用 Egrep 和 Fgrep

自 2007 年以来，支持扩展正则表达式的 egrep 和匹配固定字符串的 fgrep 命令就已被废弃。从刚刚发布的 GNU Grep 3.8 开始，调用这些命令现在会向用户发出警告，告诉他们应该分别使用 grep -E 和 grep -F。在第七版的 Unix 中就有 egrep 和 fgrep 命令，尽管将 grep 分成三个程序在 1970 年代的小型计算机上也许是有用的，但是 egrep 和 fgrep 没有被 POSIX 标准化。

消息来源：Phoronix

老王点评：确实该清理一些历史遗留的破烂了。GNU 中这种历史遗迹应该不少。

GitHub 将关闭趋势页面，中文项目再不能霸榜

GitHub 宣布将于 9 月 30 日关闭其趋势（Trending）页面，原因这个针对存储库和开发者做出排名榜单的功能使用率较低。这一决定引来了大量反对意见，很多人表示，自己访问 GitHub 的首页就是趋势页面，也有人表示自己收藏的一半以上的仓库来自于趋势页面。

消息来源：GitHub

老王点评：这个功能的成本并不高，按说没有必要关闭。有人猜测是由于之前中文项目充斥榜单，引来了非中文用户的抗议，作为余波导致 GitHub 关闭此功能。但我不这样认为，之前确实有过中文项目比较多的情况，但是随着国内用户使用 GitHub 越来越困难，中文项目随之减少。所以这个事情应该是 GitHub 有别的考虑。

AI 生成的艺术作品在美术比赛中获得第一名

周一，在美国科罗拉多州博览会的美术比赛中，一名男子使用 AI 生成的艺术作品获得了第一名。它描绘了一个奇怪的场景，看起来像是出自一部太空歌剧，而且看起来像是一幅大师级的画作。但这幅艺术作品是用 AI 生成的，它使用了他给出的提示。有艺术家和爱好者指责他加速了创意工作的死亡，“如果创造性的工作在机器面前都不安全，那么即使是高技能的工作也有被淘汰的危险。那时我们将拥有什么？”

消息来源：VICE

老王点评：真不要怀疑 AI 不能做什么，只是早晚而已。

多达 140 万安装量的 Chrome 扩展会注入推广代码

有五个提供包括群发 Netflix 视频、屏幕截图等各种服务的 Chrome 扩展程序，被发现在偷偷跟踪用户的浏览历史，并在用户访问的特定电子商务网站中插入跟踪代码。该代码修改了网站的 cookie，这样扩展程序的作者就能收到购买物品的推广付款。谷歌已经移除了这些扩展程序，但已经安装了这些扩展程序的 140 万用户并不会自动卸载这些扩展，并将依然受到影响。

消息来源：ARS Technica

老王点评：其实安装浏览器扩展也需要小心，这些扩展的行为往往并没有得到检查。