硬核观察 #1220 OpenAI 探索用较低级的 AI 来监管更高级的 AI

1 OpenAI 探索用较低级的 AI 来监管更高级的 AI

OpenAI 的团队介绍了一种让功能较弱的大型语言模型（LLM）监督功能较强的 LLM 的技术，并表示，这可能是朝着弄清人类如何监督超人机器迈出的一小步。OpenAI 团队认为，机器的最终优势是必然的，“我们一直在碾压所有的基准，而且这种进步有增无减”。他们没有研究人类如何监督超人机器，而是研究了用其五年前发布的模型 GPT-2 如何监督最新、最强大的模型 GPT-4。“如果你能做到这一点，那就证明你可以使用类似的技术让人类监督超过人类的模型……结果喜忧参半”。他们的结论是，这种方法很有前途，但还需要更多的努力。

（插图：DA/fc35d211-8080-400d-b6f9-0e6a5bd31cf3）

消息来源：MIT 科技评论

老王点评：这就是用一个比较“愚忠”的 AI 来监管那些“桀骜不驯”的 AI 吗？

2 微软发布小型 LLM Phi-2，性能超越更大的 Llama 2

Phi-2 拥有 27 亿个参数，其性能可与其他更大的模型相媲美，包括拥有 70 亿个参数的 Meta 的 Llama 2-7B，以及另一个也拥有 70 亿个参数的模型 Mistral-7B。微软称，尽管 Phi-2 比谷歌全新的 Gemini Nano 2 模型多了 5 亿个参数，但其性能却优于后者，而且其响应的 “毒性” 和偏差也小于 Llama 2。不过目前，微软限制 Phi-2 只能用于 “研究目的”，而不能用于商业用途。

（插图：DA/71166394-aa5d-4ed1-b10f-aeff651173cf）

消息来源：Venture Beat

老王点评：相信随着研究的进展，以后运行在手机上或边缘设备上的超级 AI 将不再遥远。

3 JSON 的创造者发布新编程语言 Misty

创造了 JSON 符号的 道格·克罗克福德 Doug Crockford 又创造了一种“既适合学生使用，也适合专业程序员使用”的新的编程语言。该语言称其为 “一种动态的、通用的、过渡性的演员语言。它的语法温和，旨在为学生提供帮助，同时还具有一些高级特性，如能力安全和具有词法范围的 Lambda。”有趣的是，为了避免因缩进不同而导致的争论，Misty 只允许一种约定：缩进是 4 个空格。

（插图：DA/9bb516c9-62a0-40a8-826c-5407a4a5ea82）

消息来源：Doug Crockford

老王点评：一种新的 BASIC 语言吗？