使用这些用于树莓派的开源平台来重温游戏的黄金时代。他们使它们不像过去那样子了，对吧？我是说，电子游戏。当然，现在的设备更强大了。 赛达尔公主 Princess Zelda 在过去每个边只有 16 个像素，而现在的图像处理能力足够处理她头上的每根头发。今天的处理器打败 1988 年的处理器简直不费吹灰之力。但是你知道缺少什么吗？乐趣。你有数之不尽的游戏，按下一个按钮就可以完成教程任务。可能有故事情节，当然杀死坏蛋也可以不需要故事情节，你需要的只是跳跃和射击。因此，毫不奇怪，树莓派最持久的流行用途之一就是重温上世纪八九十年代的 8 位和 16 位游戏的黄金时代。但从哪里开始呢？在树莓派上有几种方法可以玩怀旧游戏。每一种都有自己的优点和缺点，我将在这里讨论这些。RetroPieRetroPie 可能是树莓派上最受欢迎的复古游戏平台。它是一个可靠的万能选手，是模拟经典桌面和控制台游戏系统的绝佳选择。介绍RetroPie 构建在 Raspbian 上运行。如果你愿意，它也可以安装在现有的 Raspbian 镜像上。它使用 EmulationStation 作为开源仿真器库（包括 Libretro 仿真器）的图形前端。不过，你要玩游戏其实并不需要理解上面的任何一个词。它有什么好处入门很容易。你需要做的就是将镜像刻录到 SD 卡，配置你的控制器、复制游戏，然后开始杀死坏蛋。它的庞大用户群意味着有大量的支持和信息，活跃的在线社区也可以求助问题。除了随 RetroPie 镜像一起安装的仿真器之外，还有一个可以从包管理器安装的庞大的仿真器库，并且它一直在增长。RetroPie 还提供了用户友好的菜单系统来管理这些，可以节省你的时间。从 RetroPie 菜单中可以轻松添加 Kodi 和配备了 Chromium 浏览器的 Raspbian 桌面。这意味着你的这套复古游戏装备也适于作为家庭影院、YouTube、SoundCloud 以及所有其它“休息室电脑”产品。RetroPie 还有许多其它自定义选项：你可以更改菜单中的图形，为不同的模拟器设置不同的控制手柄配置，使你的树莓派文件系统的所有内容对你的本地 Windows 网络可见等等。RetroPie 建立在 Raspbian 上，这意味着你可以探索这个树莓派最受欢迎的操作系统。你所发现的大多数树莓派项目和教程都是为 Raspbian 编写的，因此可以轻松地自定义和安装新内容。我已经使用我的 RetroPie 装备作为无线桥接器，在上面安装了 MIDI 合成器，自学了一些 Python，更重要的是，所有这些都没有影响它作为游戏机的用途。它有什么不太好的RetroPie 的安装简单和易用性在某种程度上是一把双刃剑。你可以在 RetroPie 上玩了很长时间，而甚至没有学习过哪怕像 sudo apt-get 这样简单的东西，但这也意味着你错过了很多树莓派的体验。但不一定必须如此；当你需要时，命令行仍然存在于底层，但是也许用户与 Bash shell 有点隔离，而使它最终并没有看上去那么可怕、另外，RetroPie 的主菜单只能通过控制手柄操作，当你没有接入手柄时，这可能很烦人，因为你一直将该系统用于游戏之外的事情。它适用于谁?任何想直接玩一些游戏的人，任何想拥有最大、最好的模拟器库的人，以及任何想在不玩游戏的时候开始探索 Linux 的人。RecalboxRecalbox 是一个较新的树莓派开源模拟器套件。它还支持其它基于 ARM 的小型计算机。介绍与 Retropie 一样， Recalbox 基于 EmulationStation 和 Libretro。它的不同之处在于它不是基于 Raspbian 构建的，而是基于它自己的 Linux 发行版：RecalboxOS。它有什么好处Recalbox 的设置比 RetroPie 更容易。你甚至不需要做 SD 卡镜像；只需复制一些文件即可。它还为一些游戏控制器提供开箱即用的支持，可以让你更快地开始游戏。它预装了 Kodi。这是一个现成的游戏和媒体平台。它有什么不太好的Recalbox 比 RetroPie 拥有更少的仿真器、更少的自定义选项和更小的用户社区。你的 Recalbox 装备可能一直用于模拟器和 Kodi，安装成什么样就是什么样。如果你想深入了解 Linux，你可能需要为 Raspbian 提供一个新的 SD 卡。它适用于谁?如果你想要绝对简单的复古游戏体验，并且不想玩一些比较少见的游戏平台模拟器，或者你害怕一些技术性工作（也没有兴趣去做），那么 Recalbox 非常适合你。对于大多数读者来说，Recalbox 可能最适合推荐给你那些不太懂技术的朋友或亲戚。它超级简单的设置和几乎没什么选项甚至可以让你免去帮助他们解决问题。做个你自己的好，你可能已经注意到 Retropie 和 Recalbox 都是由许多相同的开源组件构建的。那么为什么不自己把它们组合在一起呢？介绍无论你想要的是什么，开源软件的本质意味着你可以使用现有的模拟器套件作为起点，或者随意使用它们。它有什么好处如果你想有自己的自定义界面，我想除了亲自动手别无它法。这也是安装在 RetroPie 中没有的仿真器的方法，例如 BeebEm) 或 ArcEm。它有什么不太好的嗯，工作量有点大。它适用于谁?喜欢鼓捣的人，有动手能力的人，开发者，经验丰富的业余爱好者等。原生 RISC OS 游戏体验现在有一匹黑马：RISC OS，它是 ARM 设备的原始操作系统。介绍在 ARM 成为世界上最受欢迎的 CPU 架构之前，它最初是作为 Acorn Archimedes 的处理器而开发的。现在看起来这像是一种被遗忘的野兽，但是那几年，它作为世界上最强大的台式计算机独领风骚了好几年，并且吸引了大量的游戏开发项目。树莓派中的 ARM 处理器是 Archimedes 的曾孙辈的 CPU，所以我们仍然可以在其上安装 RISC OS，只要做一点工作，就可以让这些游戏运行起来。这与我们到上面所介绍的仿真器方式不同，我们是在玩为该操作系统和 CPU 架构开发的游戏。它有什么好处这是 RISC OS 的完美展现，这绝对是操作系统的瑰宝，非常值得一试。事实上，你使用的是和以前几乎相同的操作系统来加载和玩你的游戏，这使得你的复古游戏装备像是一个时间机器一样，这无疑为该项目增添了一些魅力和复古价值。有一些精彩的游戏只在 Archimedes 上发布过。Archimedes 的巨大硬件优势也意味着它通常拥有许多多平台游戏大作的最佳图形和最流畅的游戏体验。这类游戏的版权持有者非常慷慨，可以合法地免费下载它们。它有什么不太好的安装了 RISC OS 之后，它仍然需要一些努力才能让游戏运行起来。这是 入门指南。对于休息室来说，这绝对不是一个很好的全能选手。没有什么比 Kodi 更好的了。它有一个网络浏览器 NetSurf，但它在支持现代 Web 方面还需要一些努力。你不会像使用模拟器套件那样得到大量可以玩的游戏。RISC OS Open 对于爱好者来说可以免费下载和使用，而且很多源代码已经开源，尽管由于这个名字，它不是一个 100％ 的开源操作系统。它适用于谁?这是专为追求新奇的人，绝对怀旧的人，想要探索一个来自上世纪 80 年代的有趣的操作系统的人，怀旧过去的 Acorn 机器的人，以及想要一个完全不同的怀旧游戏项目的人而设计的。终端游戏你是否真的需要安装模拟器或者一个异域风情的操作系统才能重温辉煌的日子？为什么不从命令行安装一些原生 Linux 游戏呢？介绍有一系列原生的 Linux 游戏经过测试可以在 树莓派 上运行。它有什么好处你可以使用命令行从程序包安装其中的大部分，然后开始玩。很容易。如果你已经有了一个跑起来的 Raspbian，那么它可能是你运行游戏的最快途径。它有什么不太好的严格来说，这并不是真正的复古游戏。Linux 诞生于 1991 年，过了一段时间才成为了一个游戏平台。这些不是经典的 8 位和 16 位时代的游戏体验；后来有一些移植的游戏或受复古影响的游戏。它适用于谁?如果你只是想找点乐子，这没问题。但如果你想重温过去，那就不完全是这样了。via: https://opensource.com/article/18/9/retro-gaming-raspberry-pi作者：James Mawson 选题：lujun9972 译者：canhetingsky 校对：wxy本文由 LCTT 原创编译，Linux中国 荣誉推出
假如说，如果你的老板给你的任务是一次又一次地访问竞争对手的网站，把对方商品的价格记录下来，而且要纯手工操作，恐怕你会想要把整个办公室都烧掉。之所以现在网络爬虫的影响力如此巨大，就是因为网络爬虫可以被用于追踪客户的情绪和趋向、搜寻空缺的职位、监控房地产的交易，甚至是获取 UFC 的比赛结果。除此以外，还有很多意想不到的用途。对于有这方面爱好的人来说，爬虫无疑是一个很好的工具。因此，我使用了 Scrapy 这个基于 Python 编写的开源网络爬虫框架。鉴于我不太了解这个工具是否会对我的计算机造成伤害，我并没有将它搭建在我的主力机器上，而是搭建在了一台树莓派上面。令人感到意外的是，Scrapy 在树莓派上面的性能并不差，或许这是 ARM 架构服务器的又一个成功例子？我尝试 Google 了一下，但并没有得到令我满意的结果，仅仅找到了一篇相关的《Drupal 建站对比》。这篇文章的结论是，ARM 架构服务器性能比昂贵的 x86 架构服务器要更好。从另一个角度来看，这种 web 服务可以看作是一个“被爬虫”服务，但和 Scrapy 对比起来，前者是基于 LAMP 技术栈，而后者则依赖于 Python，这就导致两者之间没有太多的可比性。那我们该怎样做呢？只能在一些 VPS 上搭建服务来对比一下了。什么是 ARM 架构处理器？ARM 是目前世界上最流行的 CPU 架构。但 ARM 架构处理器在很多人眼中的地位只是作为一个省钱又省电的选择，而不是跑在生产环境中的处理器的首选。然而，诞生于英国剑桥的 ARM CPU，最初是用于极其昂贵的 Acorn Archimedes 计算机上的，这是当时世界上最强大的桌面计算机，甚至在很长一段时间内，它的运算速度甚至比最快的 386 还要快好几倍。Acorn 公司和 Commodore、Atari 的理念类似，他们认为一家伟大的计算机公司就应该制造出伟大的计算机，让人感觉有点目光短浅。而比尔盖茨的想法则有所不同，他力图在更多不同种类和价格的 x86 机器上使用他的 DOS 系统。拥有大量用户基数的平台会成为第三方开发者开发软件的平台，而软件资源丰富又会让你的计算机更受用户欢迎。即使是苹果公司也几乎被打败。在 x86 芯片上投入大量的财力，最终，这些芯片被用于生产环境计算任务。但 ARM 架构也并没有消失。基于 ARM 架构的芯片不仅运算速度快，同时也非常节能。因此诸如机顶盒、PDA、数码相机、MP3 播放器这些电子产品多数都会采用 ARM 架构的芯片，甚至在很多需要用电池或不配备大散热风扇的电子产品上，都可以见到 ARM 芯片的身影。而 ARM 则脱离 Acorn 成为了一种特殊的商业模式，他们不生产实物芯片，仅仅是向芯片生产厂商出售相关的知识产权。因此，这或多或少是 ARM 芯片被应用于如此之多的手机和平板电脑上的原因。当 Linux 被移植到这种架构的芯片上时，开源技术的大门就已经向它打开了，这才让我们今天得以在这些芯片上运行 web 爬虫程序。服务器端的 ARM诸如微软和 Cloudflare 这些大厂都在基础设施建设上花了重金，所以对于我们这些预算不高的用户来说，可以选择的余地并不多。实际上，如果你的信用卡只够付每月数美元的 VPS 费用，一直以来只能考虑 Scaleway 这个高性价比的厂商。但自从数个月前公有云巨头 AWS 推出了他们自研的 ARM 处理器 AWS Graviton 之后，选择似乎就丰富了一些。我决定在其中选择一款 VPS 厂商，将它提供的 ARM 处理器和 x86 处理器作出对比。深入了解所以我们要对比的是什么指标呢？ScalewayScaleway 自身的定位是“专为开发者设计”。我觉得这个定位很准确，对于开发和原型设计来说，Scaleway 提供的产品确实可以作为一个很好的沙盒环境。Scaleway 提供了一个简洁的仪表盘页面，让用户可以快速地从主页进入 bash shell 界面。对于很多小企业、自由职业者或者技术顾问，如果想要运行 web 爬虫，这个产品毫无疑问是一个物美价廉的选择。ARM 方面我们选择 ARM64-2GB 这一款服务器，每月只需要 3 欧元。它带有 4 个 Cavium ThunderX 核心，这是在 2014 年推出的第一款服务器级的 ARMv8 处理器。但现在看来它已经显得有点落后了，并逐渐被更新的 ThunderX2 取代。x86 方面我们选择 1-S，每月的费用是 4 欧元。它拥有 2 个英特尔 Atom C3995 核心。英特尔的 Atom 系列处理器的特点是低功耗、单线程，最初是用在笔记本电脑上的，后来也被服务器所采用。两者在处理器以外的条件都大致相同，都使用 2 GB 的内存、50 GB 的 SSD 存储以及 200 Mbit/s 的带宽。磁盘驱动器可能会有所不同，但由于我们运行的是 web 爬虫，基本都是在内存中完成操作，因此这方面的差异可以忽略不计。为了避免我不能熟练使用包管理器的尴尬局面，两方的操作系统我都会选择使用 Debian 9。Amazon Web Services（AWS）当你还在注册 AWS 账号的时候，使用 Scaleway 的用户可能已经把提交信用卡信息、启动 VPS 实例、添加 sudo 用户、安装依赖包这一系列流程都完成了。AWS 的操作相对来说比较繁琐，甚至需要详细阅读手册才能知道你正在做什么。当然这也是合理的，对于一些需求复杂或者特殊的企业用户，确实需要通过详细的配置来定制合适的使用方案。我们所采用的 AWS Graviton 处理器是 AWS EC2（ 弹性计算云 Elastic Compute Cloud ）的一部分，我会以按需实例的方式来运行，这也是最贵但最简捷的方式。AWS 同时也提供竞价实例，这样可以用较低的价格运行实例，但实例的运行时间并不固定。如果实例需要长时间持续运行，还可以选择预留实例。看，AWS 就是这么复杂……我们分别选择 a1.medium 和 t2.small 两种型号的实例进行对比，两者都带有 2GB 内存。这个时候问题来了，这里提到的 vCPU 又是什么？两种型号的不同之处就在于此。对于 a1.medium 型号的实例，vCPU 是 AWS Graviton 芯片提供的单个计算核心。这个芯片由被亚马逊在 2015 收购的以色列厂商 Annapurna Labs 研发，是 AWS 独有的单线程 64 位 ARMv8 内核。它的按需价格为每小时 0.0255 美元。而 t2.small 型号实例使用英特尔至强系列芯片，但我不确定具体是其中的哪一款。它每个核心有两个线程，但我们并不能用到整个核心，甚至整个线程。我们能用到的只是“20% 的基准性能，可以使用 CPU 积分突破这个基准”。这可能有一定的原因，但我没有弄懂。它的按需价格是每小时 0.023 美元。在镜像库中没有 Debian 发行版的镜像，因此我选择了 Ubuntu 18.04。瘪四与大头蛋爬取 Moz 排行榜前 500 的网站要测试这些 VPS 的 CPU 性能，就该使用爬虫了。一个方法是对几个网站在尽可能短的时间里发出尽可能多的请求，但这种操作不太礼貌，我的做法是只向大量网站发出少数几个请求。为此，我编写了 beavis.py（瘪四）这个爬虫程序（致敬我最喜欢的物理学家和制片人 Mike Judge）。这个程序会将 Moz 上排行前 500 的网站都爬取 3 层的深度，并计算 “wood” 和 “ass” 这两个单词在 HTML 文件中出现的次数。（LCTT 译注：beavis（瘪四）和 butt-head（大头蛋） 都是 Mike Judge 的动画片《瘪四与大头蛋》中的角色）但我实际爬取的网站可能不足 500 个，因为我需要遵循网站的 robot.txt 协定，另外还有些网站需要提交 javascript 请求，也不一定会计算在内。但这已经是一个足以让 CPU 保持繁忙的爬虫任务了。Python 的全局解释器锁机制会让我的程序只能用到一个 CPU 线程。为了测试多线程的性能，我需要启动多个独立的爬虫程序进程。因此我还编写了 butthead.py，尽管大头蛋很粗鲁，它也总是比瘪四要略胜一筹。我将整个爬虫任务拆分为多个部分，这可能会对爬取到的链接数量有一点轻微的影响。但无论如何，每次爬取都会有所不同，我们要关注的是爬取了多少个页面，以及耗时多长。在 ARM 服务器上安装 Scrapy安装 Scrapy 的过程与芯片的不同架构没有太大的关系，都是安装 pip 和相关的依赖包之后，再使用 pip 来安装 Scrapy。据我观察，在使用 ARM 的机器上使用 pip 安装 Scrapy 确实耗时要长一点，我估计是由于需要从源码编译为二进制文件。在 Scrapy 安装结束后，就可以通过 shell 来查看它的工作状态了。在 Scaleway 的 ARM 机器上，Scrapy 安装完成后会无法正常运行，这似乎和 service_identity 模块有关。这个现象也会在树莓派上出现，但在 AWS Graviton 上不会出现。对于这个问题，可以用这个命令来解决：sudo pip3 install service_identity --force --upgrade接下来就可以开始对比了。单线程爬虫Scrapy 的官方文档建议将爬虫程序的 CPU 使用率控制在 80% 到 90% 之间，在真实操作中并不容易，尤其是对于我自己写的代码。根据我的观察，实际的 CPU 使用率变动情况是一开始非常繁忙，随后稍微下降，接着又再次升高。在爬取任务的最后，也就是大部分目标网站都已经被爬取了的这个阶段，会持续数分钟的时间。这让人有点失望，因为在这个阶段当中，任务的运行时长只和网站的大小有比较直接的关系，并不能以之衡量 CPU 的性能。所以这并不是一次严谨的基准测试，只是我通过自己写的爬虫程序来观察实际的现象。下面我们来看看最终的结果。首先是 Scaleway 的机器：机器种类耗时爬取页面数每小时爬取页面数每百万页面费用（欧元）Scaleway ARM64-2GB108m 59.27s38,20521,032.6230.28527Scaleway 1-S97m 44.067s39,47624,324.6480.33011我使用了 top 工具来查看爬虫程序运行期间的 CPU 使用率。在任务刚开始的时候，两者的 CPU 使用率都达到了 100%，但 ThunderX 大部分时间都达到了 CPU 的极限，无法看出来 Atom 的性能会比 ThunderX 超出多少。通过 top 工具，我还观察了它们的内存使用情况。随着爬取任务的进行，ARM 机器的内存使用率最终达到了 14.7%，而 x86 则最终是 15%。从运行日志还可以看出来，当 CPU 使用率到达极限时，会有大量的超时页面产生，最终导致页面丢失。这也是合理出现的现象，因为 CPU 过于繁忙会无法完整地记录所有爬取到的页面。如果仅仅是为了对比爬虫的速度，页面丢失并不是什么大问题。但在实际中，业务成果和爬虫数据的质量是息息相关的，因此必须为 CPU 留出一些用量，以防出现这种现象。再来看看 AWS 这边：机器种类耗时爬取页面数每小时爬取页面数每百万页面费用（美元）a1.medium100m 39.900s41,29424,612.7251.03605t2.small78m 53.171s41,20031,336.2860.73397为了方便比较，对于在 AWS 上跑的爬虫，我记录的指标和 Scaleway 上一致，但似乎没有达到预期的效果。这里我没有使用 top，而是使用了 AWS 提供的控制台来监控 CPU 的使用情况，从监控结果来看，我的爬虫程序并没有完全用到这两款服务器所提供的所有性能。a1.medium 型号的机器尤为如此，在任务开始阶段，它的 CPU 使用率达到了峰值 45%，但随后一直在 20% 到 30% 之间。让我有点感到意外的是，这个程序在 ARM 处理器上的运行速度相当慢，但却远未达到 Graviton CPU 能力的极限，而在 Intel Atom 处理器上则可以在某些时候达到 CPU 能力的极限。它们运行的代码是完全相同的，处理器的不同架构可能导致了对代码的不同处理方式。个中原因无论是由于处理器本身的特性，还是二进制文件的编译，又或者是两者皆有，对我来说都是一个黑盒般的存在。我认为，既然在 AWS 机器上没有达到 CPU 处理能力的极限，那么只有在 Scaleway 机器上跑出来的性能数据是可以作为参考的。t2.small 型号的机器性能让人费解。CPU 利用率大概 20%，最高才达到 35%，是因为手册中说的“20% 的基准性能，可以使用 CPU 积分突破这个基准”吗？但在控制台中可以看到 CPU 积分并没有被消耗。为了确认这一点，我安装了 stress 这个软件，然后运行了一段时间，这个时候发现居然可以把 CPU 使用率提高到 100% 了。显然，我需要调整一下它们的配置文件。我将 CONCURRENT_REQUESTS 参数设置为 5000，将 REACTOR_THREADPOOL_MAXSIZE 参数设置为 120，将爬虫任务的负载调得更大。机器种类耗时爬取页面数每小时爬取页面数每万页面费用（美元）a1.medium46m 13.619s40,28352,285.0470.48771t2.small41m7.619s36,24152,871.8570.43501t2.small（无 CPU 积分）73m 8.133s34,29828,137.88910.81740a1.medium 型号机器的 CPU 使用率在爬虫任务开始后 5 分钟飙升到了 100%，随后下降到 80% 并持续了 20 分钟，然后再次攀升到 96%，直到任务接近结束时再次下降。这大概就是我想要的效果了。而 t2.small 型号机器在爬虫任务的前期就达到了 50%，并一直保持在这个水平直到任务接近结束。如果每个核心都有两个线程，那么 50% 的 CPU 使用率确实是单个线程可以达到的极限了。现在我们看到它们的性能都差不多了。但至强处理器的线程持续跑满了 CPU，Graviton 处理器则只是有一段时间如此。可以认为 Graviton 略胜一筹。然而，如果 CPU 积分耗尽了呢？这种情况下的对比可能更为公平。为了测试这种情况，我使用 stress 把所有的 CPU 积分用完，然后再次启动了爬虫任务。在没有 CPU 积分的情况下，CPU 使用率在 27% 就到达极限不再上升了，同时又出现了丢失页面的现象。这么看来，它的性能比负载较低的时候更差。多线程爬虫将爬虫任务分散到不同的进程中，可以有效利用机器所提供的多个核心。一开始，我将爬虫任务分布在 10 个不同的进程中并同时启动，结果发现比每个核心仅使用 1 个进程的时候还要慢。经过尝试，我得到了一个比较好的方案。把爬虫任务分布在 10 个进程中，但每个核心只启动 1 个进程，在每个进程接近结束的时候，再从剩余的进程中选出 1 个进程启动起来。如果还需要优化，还可以让运行时间越长的爬虫进程在启动顺序中排得越靠前，我也在尝试实现这个方法。想要预估某个域名的页面量，一定程度上可以参考这个域名主页的链接数量。我用另一个程序来对这个数量进行了统计，然后按照降序排序。经过这样的预处理之后，只会额外增加 1 分钟左右的时间。结果，爬虫运行的总耗时超过了两个小时！毕竟把链接最多的域名都堆在同一个进程中也存在一定的弊端。针对这个问题，也可以通过调整各个进程爬取的域名数量来进行优化，又或者在排序之后再作一定的修改。不过这种优化可能有点复杂了。因此，我还是用回了最初的方法，它的效果还是相当不错的：机器种类耗时爬取页面数每小时爬取页面数每万页面费用（欧元）Scaleway ARM64-2GB62m 10.078s36,15834,897.07190.17193Scaleway 1-S60m 56.902s36,72536,153.55290.22128毕竟，使用多个核心能够大大加快爬虫的速度。我认为，如果让一个经验丰富的程序员来优化的话，一定能够更好地利用所有的计算核心。但对于开箱即用的 Scrapy 来说，想要提高性能，使用更快的线程似乎比使用更多核心要简单得多。从数量来看，Atom 处理器在更短的时间内爬取到了更多的页面。但如果从性价比角度来看，ThunderX 又是稍稍领先的。不过总的来说差距不大。爬取结果分析在爬取了 38205 个页面之后，我们可以统计到在这些页面中 “ass” 出现了 24170435 次，而 “wood” 出现了 54368 次。“wood” 的出现次数不少，但和 “ass” 比起来简直微不足道。结论从上面的数据来看，对于性能而言，CPU 的架构并没有它们的问世时间重要，2018 年生产的 AWS Graviton 是单线程情况下性能最佳的。你当然可以说按核心来比，Xeon 仍然赢了。但是，你不但需要计算美元的变化，甚至还要计算线程数。另外在性能方面 2017 年生产的 Atom 轻松击败了 2014 年生产的 ThunderX，而 ThunderX 则在性价比方面占优。当然，如果你使用 AWS 的机器的话，还是使用 Graviton 吧。总之，ARM 架构的硬件是可以用来运行爬虫程序的，而且在性能和费用方面也相当有竞争力。而这种差异是否足以让你将整个技术架构迁移到 ARM 上？这就是另一回事了。当然，如果你已经是 AWS 用户，并且你的代码有很强的可移植性，那么不妨尝试一下 a1 型号的实例。希望 ARM 设备在不久的将来能够在公有云上大放异彩。源代码这是我第一次使用 Python 和 Scrapy 来做一个项目，所以我的代码写得可能不是很好，例如代码中使用全局变量就有点力不从心。不过我仍然会在下面开源我的代码。要运行这些代码，需要预先安装 Scrapy，并且需要 Moz 上排名前 500 的网站的 csv 文件。如果要运行 butthead.py，还需要安装 psutil 这个库。import scrapy from scrapy.spiders import CrawlSpider, Rule from scrapy.linkextractors import LinkExtractor from scrapy.crawler import CrawlerProcess ass = 0 wood = 0 totalpages = 0 def getdomains(): moz500file = open('top500.domains.05.18.csv') domains = [] moz500csv = moz500file.readlines() del moz500csv[0] for csvline in moz500csv: leftquote = csvline.find('"') rightquote = leftquote + csvline[leftquote + 1:].find('"') domains.append(csvline[leftquote + 1:rightquote]) return domains def getstartpages(domains): startpages = [] for domain in domains: startpages.append('http://' + domain) return startpages class AssWoodItem(scrapy.Item): ass = scrapy.Field() wood = scrapy.Field() url = scrapy.Field() class AssWoodPipeline(object): def __init__(self): self.asswoodstats = [] def process_item(self, item, spider): self.asswoodstats.append((item.get('url'), item.get('ass'), item.get('wood'))) def close_spider(self, spider): asstally, woodtally = 0, 0 for asswoodcount in self.asswoodstats: asstally += asswoodcount[1] woodtally += asswoodcount[2] global ass, wood, totalpages ass = asstally wood = woodtally totalpages = len(self.asswoodstats) class BeavisSpider(CrawlSpider): name = "Beavis" allowed_domains = getdomains() start_urls = getstartpages(allowed_domains) #start_urls = [ 'http://medium.com' ] custom_settings = { 'DEPTH_LIMIT': 3, 'DOWNLOAD_DELAY': 3, 'CONCURRENT_REQUESTS': 1500, 'REACTOR_THREADPOOL_MAXSIZE': 60, 'ITEM_PIPELINES': { '__main__.AssWoodPipeline': 10 }, 'LOG_LEVEL': 'INFO', 'RETRY_ENABLED': False, 'DOWNLOAD_TIMEOUT': 30, 'COOKIES_ENABLED': False, 'AJAXCRAWL_ENABLED': True } rules = ( Rule(LinkExtractor(), callback='parse_asswood'), ) def parse_asswood(self, response): if isinstance(response, scrapy.http.TextResponse): item = AssWoodItem() item['ass'] = response.text.casefold().count('ass') item['wood'] = response.text.casefold().count('wood') item['url'] = response.url yield item if __name__ == '__main__': process = CrawlerProcess({ 'USER_AGENT': 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1)' }) process.crawl(BeavisSpider) process.start() print('Uhh, that was, like, ' + str(totalpages) + ' pages crawled.') print('Uh huhuhuhuh. It said ass ' + str(ass) + ' times.') print('Uh huhuhuhuh. It said wood ' + str(wood) + ' times.')beavis.pyimport scrapy, time, psutil from scrapy.spiders import CrawlSpider, Rule, Spider from scrapy.linkextractors import LinkExtractor from scrapy.crawler import CrawlerProcess from multiprocessing import Process, Queue, cpu_count ass = 0 wood = 0 totalpages = 0 linkcounttuples =[] def getdomains(): moz500file = open('top500.domains.05.18.csv') domains = [] moz500csv = moz500file.readlines() del moz500csv[0] for csvline in moz500csv: leftquote = csvline.find('"') rightquote = leftquote + csvline[leftquote + 1:].find('"') domains.append(csvline[leftquote + 1:rightquote]) return domains def getstartpages(domains): startpages = [] for domain in domains: startpages.append('http://' + domain) return startpages class AssWoodItem(scrapy.Item): ass = scrapy.Field() wood = scrapy.Field() url = scrapy.Field() class AssWoodPipeline(object): def __init__(self): self.asswoodstats = [] def process_item(self, item, spider): self.asswoodstats.append((item.get('url'), item.get('ass'), item.get('wood'))) def close_spider(self, spider): asstally, woodtally = 0, 0 for asswoodcount in self.asswoodstats: asstally += asswoodcount[1] woodtally += asswoodcount[2] global ass, wood, totalpages ass = asstally wood = woodtally totalpages = len(self.asswoodstats) class ButtheadSpider(CrawlSpider): name = "Butthead" custom_settings = { 'DEPTH_LIMIT': 3, 'DOWNLOAD_DELAY': 3, 'CONCURRENT_REQUESTS': 250, 'REACTOR_THREADPOOL_MAXSIZE': 30, 'ITEM_PIPELINES': { '__main__.AssWoodPipeline': 10 }, 'LOG_LEVEL': 'INFO', 'RETRY_ENABLED': False, 'DOWNLOAD_TIMEOUT': 30, 'COOKIES_ENABLED': False, 'AJAXCRAWL_ENABLED': True } rules = ( Rule(LinkExtractor(), callback='parse_asswood'), ) def parse_asswood(self, response): if isinstance(response, scrapy.http.TextResponse): item = AssWoodItem() item['ass'] = response.text.casefold().count('ass') item['wood'] = response.text.casefold().count('wood') item['url'] = response.url yield item def startButthead(domainslist, urlslist, asswoodqueue): crawlprocess = CrawlerProcess({ 'USER_AGENT': 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1)' }) crawlprocess.crawl(ButtheadSpider, allowed_domains = domainslist, start_urls = urlslist) crawlprocess.start() asswoodqueue.put( (ass, wood, totalpages) ) if __name__ == '__main__': asswoodqueue = Queue() domains=getdomains() startpages=getstartpages(domains) processlist =[] cores = cpu_count() for i in range(10): domainsublist = domains[i * 50:(i + 1) * 50] pagesublist = startpages[i * 50:(i + 1) * 50] p = Process(target = startButthead, args = (domainsublist, pagesublist, asswoodqueue)) processlist.append(p) for i in range(cores): processlist[i].start() time.sleep(180) i = cores while i != 10: time.sleep(60) if psutil.cpu_percent() < 66.7: processlist[i].start() i += 1 for i in range(10): processlist[i].join() for i in range(10): asswoodtuple = asswoodqueue.get() ass += asswoodtuple[0] wood += asswoodtuple[1] totalpages += asswoodtuple[2] print('Uhh, that was, like, ' + str(totalpages) + ' pages crawled.') print('Uh huhuhuhuh. It said ass ' + str(ass) + ' times.') print('Uh huhuhuhuh. It said wood ' + str(wood) + ' times.') butthead.pyvia: https://blog.dxmtechsupport.com.au/speed-test-x86-vs-arm-for-web-crawling-in-python/作者：James Mawson 选题：lujun9972 译者：HankChow 校对：wxy本文由 LCTT 原创编译，Linux中国 荣誉推出
我知道你在想什么：树莓派只能用在修修补补、原型设计和个人爱好中。它实际不能用在业务中。毫无疑问，这台电脑的处理能力相对较低、易损坏的 SD 卡、缺乏电池备份以及支持的 DIY 性质，这意味着它不会是一个能在任何时候执行最关键的操作的专业的、已安装好、配置好的商业服务器的可行替代品。但是它电路板便宜、功耗很小、小到几乎适合任何地方、无限灵活 —— 这实际上是处理办公室一些基本任务的好方法。而且，更好的是，已经有一些人完成了这些项目并很乐意分享他们是如何做到的。DNS 服务器每次在浏览器中输入网站地址或者点击链接时，都需要将域名转换为数字 IP 地址，然后才能显示内容。通常这意味着向互联网上某处 DNS 服务器发出请求 —— 但你可以通过本地处理来加快浏览速度。你还可以分配自己的子域，以便本地访问办公室中的计算机。这里了解它是如何工作的。厕所占用标志在厕所排过队吗？这对于那些等待的人来说很烦人，花在处理它上面的时间会耗费你在办公室的工作效率。我想你希望在办公室里也悬挂飞机上那个厕所有人的标志。Occu-pi 是一个非常简单的解决方案，使用磁性开关和树莓派来判断螺栓何时关闭，并在 Slack 频道中更新“厕所在使用中” —— 这意味着整个办公室的人都可以看一眼电脑或者移动设备知道是否有空闲的隔间。针对黑客的蜜罐陷阱黑客破坏了网络的第一个线索是一些事情变得糟糕，这应该会吓到大多数企业主。这就是可以用到蜜罐的地方：一台没有任何服务的计算机位于你的网络，将特定端口打开，伪装成黑客喜欢的目标。安全研究人员经常在网络外部部署蜜罐，以收集攻击者正在做的事情的数据。但对于普通的小型企业来说，这些作为一种绊脚石部署在内部更有用。因为普通用户没有真正的理由想要连接到蜜罐，所以任何发生的登录尝试都是正在进行捣乱的非常好的指示。这可以提供对外部人员入侵的预警，并且也可以提供对值得信赖的内部人员的预警。在较大的客户端/服务器网络中，将它作为虚拟机运行可能更为实用。但是在无线路由器上运行的点对点的小型办公室/家庭办公网络中，HoneyPi 之类的东西是一个很小的防盗报警器。打印服务器联网打印机更方便。但更换所有打印机可能会很昂贵 —— 特别是如果你对现有的打印机感到满意的话。将树莓派设置为打印服务器可能会更有意义。网络附加存储（NAS）将硬盘变为 NAS 是树莓派最早的实际应用之一，并且它仍然是最好的之一。这是如何使用树莓派创建 NAS。工单服务器想要在预算不足的情况下在服务台中支持工单？有一个名为 osTicket 的完全开源的工单程序，它可以安装在你的树莓派上，它甚至还有随时可用的 SD 卡镜像。数字标牌无论是用于活动、广告、菜单还是其他任何东西，许多企业都需要一种显示数字标牌的方式 —— 而树莓派的廉价和省电使其成为一个非常有吸引力的选择。这有很多可供选择的选项。目录和信息亭FullPageOS 是一个基于 Raspbian 的 Linux 发行版，它直接引导到 Chromium 的全屏版本 —— 这非常适合导购、图书馆目录等。基本的内联网 Web 服务器对于托管一个面向公众的网站，你最好有一个托管帐户。树莓派不适合面对真正的网络流量。但对于小型办公室，它可以托管内部业务维基或基本的公司内网。它还可以用作沙箱环境，用于试验代码和服务器配置。这里是如何在树莓派上运行 Apache、MySQL 和 PHP。渗透测试器Kali Linux 是专为探测网络安全漏洞而构建的操作系统。通过将其安装在树莓派上，你就拥有了一个超便携式穿透测试器，其中包含 600 多种工具。你可以在这里找到树莓派镜像的种子链接。绝对要小心只在你自己的网络或你有权对它安全审计的网络中使用它 —— 使用此方法来破解其他网络是严重的犯罪行为。VPN 服务器当你外出时，依靠的是公共无线互联网，你无法控制还有谁在网络中、谁在窥探你的所有流量。这就是为什么通过 VPN 连接加密所有内容可以让人放心。你可以订阅任意数量的商业 VPN 服务，并且你可以在云中安装自己的服务，但是在办公室运行一个 VPN，这样你也可以从任何地方访问本地网络。对于轻度使用 —— 比如偶尔的商务旅行 —— 树莓派是一种强大的，节约能源的设置 VPN 服务器的方式。（首先要检查一下你的路由器是不是不支持这个功能，许多路由器是支持的。）这是如何在树莓派上安装 OpenVPN。无线咖啡机啊，美味：好喝的饮料是神赐之物，也是公司内工作效率的支柱。那么，为什么不将办公室的咖啡机变成可以精确控制温度和无线连接的智能咖啡机呢？via: https://blog.dxmtechsupport.com.au/11-uses-for-a-raspberry-pi-around-the-office/作者：James Mawson 选题：lujun9972 译者：geekpi 校对：wxy本文由 LCTT 原创编译，Linux中国 荣誉推出
一个用于家庭项目的单用户、轻量级操作系统
业余爱好者应该了解一下 RISC OS 的五个原因。究竟什么是 RISC OS？嗯，它不是一种新的 Linux。它也不是有些人认为的 Windows。事实上，它发布于 1987 年，它比它们任何一个都要古老。但你看到它时不一定会意识到这一点。其点击式图形用户界面在底部为活动的程序提供一个固定面板和一个图标栏。因此，它看起来像 Windows 95，并且比它早了 8 年。这个操作系统最初是为 Acorn Archimedes 编写的。这台机器中的 Acorn RISC Machines CPU 是全新的硬件，因此需要在其上运行全新的软件。这是最早的 ARM 芯片上的系统，早于任何人想到的 Android 或 Armbian 之前。虽然 Acorn 桌面最终消失了，但 ARM 芯片继续征服世界。在这里，RISC OS 一直有一个优点 —— 通常在嵌入式设备中，你从来没有真正地意识到它。RISC OS 过去长期以来一直是一个完全专有的操作系​​统。但近年来，该抄系统的所有者已经开始将源代码发布到一个名为 RISC OS Open 的项目中。1、你可以将它安装在树莓派上树莓派的官方操作系统 Raspbian 实际上非常棒（如果你对摆弄不同技术上新奇的东西不感兴趣，那么你可能最初也不会选择树莓派）。由于 RISC OS 是专门为 ARM 编写的，因此它可以在各种小型计算机上运行，​​包括树莓派的各个型号。2、它超轻量级我的树莓派上安装的 RISC 系统占用了几百兆 —— 这是在我加载了数十个程序和游戏之后。它们大多数时候不超过 1 兆。如果你真的节俭，RISC OS Pico 可用在 16MB SD 卡上。如果你要在嵌入式系统或物联网项目中鼓捣某些东西，这是很完美的。当然，16MB 实际上比压缩到 512KB 的老 Archimedes 的 ROM 要多得多。但我想 30 年间内存技术的发展，我们可以稍微放宽一下了。3、它非常适合复古游戏当 Archimedes 处于鼎盛时期时，ARM CPU 的速度比 Apple Macintosh 和 Commodore Amiga 中的 Motorola 68000 要快几倍，它也完全吸了新的 386 技术。这使得它成为对游戏开发者有吸引力的一个平台，他们希望用这个星球上最强大的桌面计算机来支撑他们的东西。那些游戏的许多拥有者都非常慷慨，允许业余爱好者免费下载他们的老作品。虽然 RISC OS 和硬件已经发展了，但只需要进行少量的调整就可以让它们运行起来。如果你有兴趣探索这个，这里有一个指南让这些游戏在你的树莓派上运行。4、它有 BBC BASIC就像过去一样，按下 F12 进入命令行，输入 *BASIC，就可以看到一个完整的 BBC BASIC 解释器。对于那些在 80 年代没有接触过它的人，请让我解释一下：BBC BASIC 是当时我们很多人的第一个编程语言，因为它专门教孩子如何编码。当时有大量的书籍和杂志文章教我们编写自己的简单但高度可玩的游戏。几十年后，对于一个想要在学校假期做点什么的有技术头脑的孩子而言，在 BBC BASIC 上编写自己的游戏仍然是一个很棒的项目。但很少有孩子在家里有 BBC micro。那么他们应该怎么做呢？当然，你可以在每台家用电脑上运行解释器，但是当别人需要使用它时就不能用了。那么为什么不使用装有 RISC OS 的树莓派呢？5、它是一个简单的单用户操作系统RISC OS 不像 Linux 一样有自己的用户和超级用户访问权限。它有一个用户并可以完全访问整个机器。因此，它可能不是跨企业部署的最佳日常驱动，甚至不适合给老人家做银行业务。但是，如果你正在寻找可以用来修改和鼓捣的东西，那绝对是太棒了。你和机器之间没有那么多障碍，所以你可以直接闯进去。扩展阅读如果你想了解有关此操作系统的更多信息，请查看 RISC OS Open，或者将镜像烧到闪存到卡上并开始使用它。via: https://opensource.com/article/18/7/gentle-intro-risc-os作者：James Mawson 选题：lujun9972 译者：geekpi 校对：wxy本文由 LCTT 原创编译，Linux中国 荣誉推出