标签 GPU 下的文章

等不及官方发布,创客制作了自己的树莓派 CM5

树莓派 5 已于上月发布,但创客们在等待有关 CM5 计算模块的消息。其中有一位创客决定不再等下去,而是从零开始制作了一块 “CM5”。这块定制的 PCB 板具有树莓派 CM4 的外形尺寸,但能够支持树莓派 5 的功率。这实际上不是 CM5,也不出售。事实上,它甚至不是一个 SBC,而更像是一个载板,能让树莓派 5 与 CM4 兼容的东西进行交互。

消息来源:Tom's Hardware
老王点评:创客们总是自己动手,丰衣足食。

10 万块闲置的挖矿 GPU 被出租给人工智能负载

加密货币热潮崩溃后,许多加密货币农场都留下了大量闲置的 GPU。一些公司设法为它们的 GPU 找到了其他用途,Io.net 就开发了一个分布式网络,目前已经汇集了超过十万块 GPU,并将它们用于人工智能应用。该公司还使用 Solana 区块链技术管理其网络内的微交易,以便向 GPU 计算提供商付款。

消息来源:Tom's Hardware
老王点评:GPU 卡就是生产力,不能挖矿,还能挖 AI。

隐藏在 Python 混淆软件工具中的高入侵性后门

自今年 1 月以来,已有 8 个 Python 开发者工具包含了具有各种恶意功能的隐藏有效载荷。这几个恶意工具包的名字都以 “pyobf” 开头。它们都是混淆工具,开发人员可以用它来阻止逆向工程和篡改他们的代码。但是一旦被执行,这些恶意工具就会安装一个有效载荷,让攻击者几乎可以完全控制开发者的机器,包括窃取主机信息、浏览器密码、记录击键、加密勒索等操作。这些恶意工具已被 Python 程序员们安装了数千次。

消息来源:Ars Technica
老王点评:想要保密代码反而中了招,反正你也看不懂加密混淆后的代码在做什么,真是十分切合场景。

苹果公司暂停开发明年的操作系统,以修复软件错误

苹果公司上周在内部向员工宣布了这一决定,称该公司的工程师现在的主要任务不是添加新功能而是修复错误和改进性能。上个月,该公司完成了明年发布的 iPhone、iPad 和 Mac 操作系统的第一个里程碑版本,但在内部测试中发现了太多的问题,因此推迟了第二个里程碑版本的发布工作,暂停新功能开发一周,专注于修复错误。不过暂停开发不大会影响新版本的发布。

消息来源:彭博社
老王点评:这是集体修 bug 的一周。我在写这条消息时,刚刚收到了前两天升级的 macOS 14.1 的一个更新。

Servo 浏览器引擎获得资金支持 HTML 表格

由 Rust 编写的 Servo 浏览器引擎最初是 Mozilla 开发的,目前由欧洲 Linux 基金会等组织共同开发。今年,Servo 项目取得了良好的进展,目标是成为一个便于嵌入的网络引擎,并不断增加新的功能。最近,他们获得了 NLnet 基金会的资助,用于完善 Servo 的浮动支持、支持更多语言的内联布局,以及添加对 “表格” 标签的初步支持。是的,HTML 表格尚未在 Servo 中实现,这次开发的重点是初步满足维基百科上 HTML 表格的需求。

消息来源:Phoronix
老王点评:我是很吃惊居然还有连表格都不支持的浏览器引擎。

必应聊天的 GPU 不够用了,微软将向甲骨文租用 GPU

微软需要更多的计算资源来跟上其人工智能服务的 “爆炸式增长”,而甲骨文恰好有数以万计的英伟达 GPU 可供租用。这两家云计算提供商的最新合作利用了微软 Azure 的甲骨文互联服务,它允许在 Azure 中运行的服务与甲骨文云计算基础架构中的资源进行交互。此前他们曾利用这项服务让客户将运行在 Azure 中的工作负载连接回甲骨文云上运行的数据库。

消息来源:The Register
老王点评:连地主家都没有余粮了。不过,最近是感觉 Azure 的 ChatGPT 有些笨了。

微软支持开发者用 Rust 开发 Windows 驱动

微软在 Github 上发布了代码,使开发人员能够用 Rust 编写 Windows 驱动程序,这是为操作系统实现内存安全编程的关键一步。此前,微软披露正在用 Rust 语言 重写 核心 Windows 库。由于各种技术和历史原因,Windows 的用户模式代码大部分都是用 C++ 编写的,而内核代码大部分是用 C 语言编写的。软件项目的大部分漏洞都属于内存安全错误。自 2006 年以来微软在 Windows 中修复的漏洞大约七成是内存安全漏洞。

消息来源:Dev Class
老王点评:没想到 Windows 在拥抱 Rust 方面走在了 Linux 前面。

所有主要 GPU 都可能遭受新的像素窃取攻击

研究人员发现,六家主要供应商的 GPU 都容易受到一种新发现的攻击,这种攻击允许恶意网站跨源读取其他网站显示的像素。然后,攻击者就可以对像素进行重构,从而查看后一个网站显示的用户名、密码和其他敏感信息。通常情况下,同一来源策略会阻止这种泄漏,但 GPU 为提高性能而使用的数据压缩技术就像一个侧通道,会自动尝试压缩这些视觉数据,而不需要任何应用程序的参与。它们可以利用这个侧通道绕过限制,逐个窃取像素。芯片制造商们认为该问题的根本原因不在 GPU 中,而是浏览器厂商实现的问题。而谷歌表示,“这是对硬件工作原理的重要研究”,网站使用合理的标头可以显著减少个性化数据被泄露的风险。

消息来源:Ars Technica
老王点评:很多安全漏洞都是优化带来的,比如预加载、并行预测。

苹果在法庭上为谷歌搜索交易辩护

在对谷歌搜索业务的反垄断审判中,谷歌与苹果之间的交易是美国司法部起诉谷歌的核心,该交易使谷歌成为所有苹果设备的默认搜索引擎,并每年向苹果支付数十亿美元。曾代表苹果签署和谷歌的《信息服务协议》的 Eddy Cue 被问及,如果双方不能就收入分成数字达成一致,他是否会放弃这笔交易。Cue 认为,达成交易符合谷歌和苹果的最大利益,这笔交易不仅仅是经济问题,苹果从未认真考虑过转而使用其他供应商的产品,因为“还没有一个可以替代谷歌的有效选择”。

消息来源:The Verge
老王点评:就是因为其无可取代才会形成垄断。

大模型“深吸一口气”后会更聪明

DeepMind 的研究人员开发了一种技术,可以通过使用人工智能模型来改进提示词,以提高其它人工智能语言模型的数学能力。利用这种被称作“通过提示进行优化(OPRO)”的技术,他们发现,使用“深吸一口气,一步步解决问题”的提示词,能大幅提升数学测试得分。对 PaLM 2 使用该提示,它在小学数学应用题数据集 GSM8K 中的正确率达到了 80.2%,而不使用该提示正确率只有 34%。为什么这能奏效呢?大模型显然不会呼吸,也不像人类那样思考和推理。它所做的“推理”都源自从书籍和互联网上抓取的短语数据集。这些内容中往往在“深呼吸”,“一步步思考”等短语后跟着更合理的推理方案。这些短语可能有助于大模型产生更好的答案。

消息来源:Ars Technica
老王点评:要想让人工智能像人类一样思考,就得把它当成人类一样对待。

亚马逊将为 Alexa 添加人工智能

亚马逊展示了由其全新的 Alexa 大语言模型驱动的全新 Alexa 语音助手。这款全新的 Alexa 可以理解对话短语并做出适当的回应,更有效地解释上下文,并通过一个命令完成多个请求。他们表示,Alexa LLM “是一个真正可通用的大型语言模型,针对 Alexa 的用例进行了优化;它与 Bard 或 ChatGPT 或任何这些东西都不同”。想参加测试的美国用户,可以对 Echo 设备 说“Alexa,我们聊聊吧”,就有可能被加到预览测试名单中。

消息来源:The Verge
老王点评:语音助手是最应该有人工智能的设备,而之前它们只是简单的问答机和搜索引擎而已。

统一加速基金会成立,英伟达缺席

Linux 基金会本周宣布成立统一加速(UXL)基金会。该组织的使命是提供 “一个开放标准的加速器编程模型,简化高性能、跨平台应用程序的开发”。该基金会的创始成员包括 Arm、富士通、谷歌云、英特尔、高通、三星等公司。但英伟达公司缺席,英伟达提供了自己的 CUDA 编程模型,用于使用其 GPU。这个新的基金会的核心是 oneAPI 计划的演进,其目的也是创建一个新的编程模型,使开发人员更容易支持各种加速器,无论它们是 GPU、FPGA 还是其他专用加速器。

消息来源:Tech Crunch
老王点评:那就看看自己玩还是大家玩,那个更好玩。

回音

  • 之前,由于不满 HashiCorp 修改 Terraform 的许可证,社区创建了 OpenTF 分支。在 HashiCorp 大为不满,向许多支持的公司发送了“停止侵权”的通告后,为了避免商标侵权,OpenTF 改名为 OpenTofu —— 开源豆腐。他们有意选择了一个幽默的名字。

二季度英伟达 H100 GPU 出货超过 900 吨

据报告,二季度有 30 多万台 H100 GPU 进入了服务器制造商的装配线,按每台 GPU 连同散热器的重量约为 3 千克,约计 900 吨!此外,为人工智能处理工作配备 8 个 GPU 的服务器推高了服务器平均价格,涨幅超过了 30%。据预测,8 个 GPU 的服务器的持续部署将导致服务器市场收入在 2024 年上半年同比增长 51%,预计将有一百万个 H100 GPU 进入服务器。

消息来源:The Register
老王点评:我从来不知道芯片也可以按吨来计算,这一比喻令人直观地感受到现在 GPU 芯片有多火。

MariaDB 公司或被风投收购

MariaDB 公司于 2022 年 12 月进行了首次公开募股(IPO),获得了 1.04 亿美元的资金。今年 3 月,MariaDB 公司表示,预计通过数据库订阅和服务筹集的资金将不足以满足其预计的营运资金和运营需求,“正在寻求额外的资金,以满足 2023 年 9 月 30 日之后的预计营运资金、运营和债务偿还需求”。7 月,纽约证券交易所通知 MariaDB,该公司在 30 天内股价跌破 1 美元,不符合其上市手册的规定,面临退市风险。风险投资公司 Runa Capital 提出收购 MariaDB 已发行普通股的 100% 的非承诺要约。

消息来源:The Register
老王点评:开源软件公司不好干啊,可能不上市还更好一些。

AI 编程助手有时候会替你填上别人的密钥

不小心的开发人员可能会在代码库中硬编码证书,甚至提交到 GitHub 等公共源代码托管服务。研究人员对 GitHub Copilot 和亚马逊 CodeWhisper 等 AI 编程助手生成的代码中是否会出现泄露的 API 密钥进行了研究。他们让 AI 补完代码中空白的密钥值,研究发现,这些 AI 编程助手给出的密钥中,Copilot 有 3.6%,CodeWhisperer 有 5.4% 都是 GitHub 上的有效硬编码凭据。

消息来源:The Register
老王点评:也就是说你泄露的密钥,不仅仅能在 GitHub 上搜到,而且会被 AI 编程助手告诉别人。

甲骨文、SUSE 等“抱团”制作兼容版企业 Linux

在红帽限制了对 RHEL 源代码的访问后,Rocky Linux、AlmaLinux,以及 Oracle Linux 等 RHEL 下游发行版纷纷做出了反应。现在,由 SUSE、Oracle 和支持 Rocky Linux 企业 CIQ 等发起成立了一家非营利组织“开源企业 Linux 协会”(OpenELA)。OpenELA 的目标是“通过提供开放和免费的企业 Linux 源代码,促进与 RHEL 兼容的发行版的开发。”CIQ CEO 认为,这一宣布标志着企业级 Linux 新时代的开始。OpenELA 将只提供源代码。它不会制作自己的二进制发行版,其成员和任何想尝试的人都可以根据代码创建自己的企业 Linux 发行版。OpenELA 将在年底前提供实现 1:1 兼容版企业 Linux 所需的所有源代码、安全勘误数据、兼容性指南和构建工具包等。该项目最初的重点是 RHEL 版本 8、9 和可能的 EL7,致力于无限期地确保 OpenELA 源对社区的持续可用性。

消息来源:ZDNet
老王点评:这就是“强行”兼容了,但我更希望见到一个逐渐独立于 RHEL 的开放的企业 Linux 家族。遗憾的是,在红帽封闭源代码的整个事件中,我们没有看到国内的几家企业 Linux 厂商和社区有过任何发声和动作。

中国互联网巨头订购了 50 亿美元的英伟达 GPU

据报道,百度、字节跳动、腾讯和阿里巴巴等今年从英伟达订购了价值 10 亿美元,约 10 万张 A800 数据中心 GPU,此外,他们额外加购的 40 亿美元的英伟达 GPU 将在明年交付。在美国要求英伟达停止向中国出口其两款用于人工智能的顶级计算芯片后,它在中国提供 A800 处理器以满足出口管制规定。A800 是弱化版的 A100 GPU,降低了数据传输率,这最终将影响人工智能的训练和效率。

消息来源:路透社
老王点评:现在英伟达 GPU 简直就是硬通货啊。

机器人比人类更擅长破解验证码

一项新的综合研究对 100 多个流行网站部署的安全系统进行了检查,他们邀请了 1000 名来自不同背景的在线参与者,在这些网站上进行了 10 次验证码测试,并对其难度进行了评估。他们发现,科学杂志中描述的许多机器人在这些测试中的速度和准确性都能击败人类。一些验证码测试的人类参与者需要 9 到 15 秒才能破解,准确率约为 50% 到 84%,而机器人只需不到 1 秒钟就能破解,准确率大多数在 96% 以上。

消息来源:Independent
老王点评:所以,验证码到底拦的是谁呢?