4.4 社会正义技术

4.4.1 人工智能

4.4.1.1 人工智能的伦理和治理

AI 监管体系

观察人工智能和机器学习如此迅速地发展和部署，让我想起了在 20 世纪 90 年代初观察（并参与）互联网的感觉。AI 对社会的影响可能比互联网更大。但是，与互联网不同，AI 似乎并没有进行解耦或分层。这是一个重要问题，因为互联网本质上对用户是开放的，并从用户为其添加的价值中获得价值，而大多数 AI 系统是由计算机科学家设计的。这些系统的有效性和偏见取决于计算机科学家选择的数据，以及他们做出的训练和优化决策。

由于通过向机器学习系统提供现有数据来对其进行训练，而且这些数据几乎不可避免地反映了现有的人类偏见，这些系统通常会加强这些潜在的偏见。此外，在不适当的方式中使用 AI 的输出也是如此。我们当今的挑战——就在此刻——是找到方法来设计、审计和管理这些系统的开发和部署，使其具有社会效益。

我一直参与了许多努力，试图在 AI 的发展中引入伦理和治理。

AI 伦理与治理课程

哈佛法学教授 Jonathan Zittrain 和我一起教授一门关于 AI 伦理与治理的课程（人工智能伦理与治理 - MIT媒体实验室）。这门课程汇集了来自 MIT 和哈佛的学生，他们来自法律、工程、哲学、政策、历史等多个学科。课程通过阅读、项目和围绕 AI 提出的问题的对话，让学生思考可能的解决方案。

开设这门课程的主要动机是试图教会社会科学家了解工程和 AI，以及让工程师了解社会科学和 AI。课程描述如下：

这门课程将跨学科地研究新兴技术的影响，重点关注人工智能的开发和部署。我们将涵盖各种问题，包括治理组织与主权国家之间的复杂互动，算法决策的扩散，自主系统，机器学习与解释，寻求平衡监管与创新之间的关系，以及 AI 对信息传播的影响，还有与个人权利、歧视和控制架构有关的问题。课程将包含一系列密集的学习和教学方法。学生将被期望参与各种活动。课堂可能包括媒体实验室和伯克曼克莱因中心的研究员和附属人员。

到目前为止，我们取得了相当大的成功。许多工程学生已经成为了伯克曼克莱因中心的研究员，甚至进入了哈佛法学院。目前我的假设是，让工程专业的学生对法学学位感兴趣比让法学专业的学生对工程学位感兴趣要容易。无论如何，培养精通法律和工程的人才对于弥合差距和创造真正创新的解决方案至关重要。然而，我们可能需要一个新的联合学位项目，因为如果学生实际上并不想成为律师，在获得工程学位后再获得法学博士（JD）学位似乎过于繁琐。

学生调查清楚地表明了跨学科课程的难度。因为课堂上包括法学生、哲学生、计算机科学生等，课程必须对来自其他学科的人员开放，对某些人来说可能显得肤浅。我们应该尝试不同的结构，如进行深入的分组讨论，或为新手准备基础教程。另一个想法是安排较小规模的课外晚餐或延长办公时间，以便让一些学生更深入地学习。在新领域开展跨学科课程将继续面临挑战。我希望我们可以改进并向他人学习。

与课程一起，我们还开展了一个名为“Assembly”的项目，邀请来自工业界、学术界、政府和其他部门的专业人士组成团队，共同开展涉及 AI 的实际项目。这些“组装者”也参与课程。

AI 伦理与治理基金

与 Reid Hoffman、Jonathan Zittrain 和 Alberto Ibarguen 一起，我们筹集了2600万美元的基金，用于支持人工智能伦理和治理的研究。项目位于媒体实验室、伯克曼克莱因中心（我在那里有一个职位）和其他第三方机构。

一个关键的设计是让团队以一种整合的方式共同开展项目。麻省理工学院媒体实验室和伯克曼克莱因中心是基金主要资助的锚定机构。我们还将资金引导到其他将与我们密切合作的组织，共同研究我们的核心主题。

我们独特地关注理论与现实世界的应用。项目的工作主要集中在三个领域：

1. 动力自主性 — 自动驾驶汽车和武器。

2. 算法正义 — 在诸如刑事司法、住房和保险等社会系统中使用算法，关注偏见以及算法在改善社会方面的积极作用。

3. 信息真实性 — 随着以定向广告和内容优化为基础的平台的出现，我们已经看到信息质量的恶化以及外部政府和企业影响力的增加。问题和解决方案是什么？

我个人深入参与了由该基金支持的人工智能法律人性化项目。我们正在努力了解在刑事司法中使用算法的风险，例如使用它们为预审保释生成风险评估。我还在努力使用算法理解潜在的因果关系并解决系统性问题，而不仅仅是提高算法的预测准确性。

4.4.1.2 人工智能法律人性化（HAL）

我和我的团队成员 Chelsea Barabas、Karthik Dinakar 和 Madars Virza 一起参与了许多活动，包括发表论文，如公平、问责和透明度会议上的“干预而非预测”（Barabas 等人，2018），以及两封关于预审风险的马萨诸塞州立法机关的信函，分别附在附录B和附录C中。最近，我在《连线》杂志上发表了一篇关于这个主题的文章（伊藤，2018a），并就此进行了大量演讲。

关于预测与解决主义的教会

谈到人工智能，我们不需要水晶球。我们需要镜子。

人工智能的批评者指出了偏见如何扭曲算法生成的分类和预测。为了应对这些担忧，许多计算机科学家试图通过识别和移除与种族等敏感社会类别相关的“代理”，来净化他们的预测模型，以减轻工具的歧视性影响。

但是，这种不考虑种族差异的公平方法存在一些严重的缺陷，特别是在解决我们社会中最边缘化群体的需求时。对于这些群体来说，围绕AI启用的决策的核心问题并不是关于准确预测和偏见，而是关于自决和社会包容。

这是我和同事 Chelsea Barabas 在最近的公平、问责和透明度会议上讨论的一个主题，她在那里提交了我们的论文，“干预而非预测：为精算风险评估重新构架道德辩论。”在这篇论文中，我们认为技术社区一直用错误的衡量标准来评估AI启用技术的道德利害关系。

通过狭隘地将人工智能的风险和收益框定在偏见和准确性方面，我们忽略了关于自动化、概况软件和预测模型引入如何与社会期望的结果联系的更基本问题。

这或许在刑事司法改革领域表现得最为明显，在这个领域，各种预测技术被用于评估和指导“风险”的管理。来自各个政治光谱的改革者都将风险评估视为一种更客观的决策手段，包括从量刑到缓刑和假释等各种决策。然而，2016年ProPublica（Angwin等人，2016）的一项调查显示，这些风险评估不仅经常不准确，而且不准确的代价主要由非裔美国被告人承担，他们被贴上高风险标签的可能性几乎是其他人的两倍，但实际上并没有继续犯下后续犯罪。

这份报告引发了一阵激烈的辩论，其中很多都集中在如何设计一个使用不完美数据进行预测的工具的固有权衡（Kleinberg，Mullainathan和Raghavan，2016）。为了更全面地了解AI启用的工具（如风险评估）的成本和收益，我们必须拉远距离，以了解这些工具如何塑造刑事司法系统旨在实现的结果。这就需要超越预测准确性问题，了解这些工具如何作为干预人们生活的基础。

在预审风险评估的情况下，这意味着要深入询问这种评估如何支持与等待审判的个人进行某种互动。在新泽西州和肯塔基州等地，预审风险评估已成为保释改革的主要手段，作为最大限度减少现金保释使用的更广泛努力的一部分。多项研究已经表明，现金保释作为预审条件不仅无效，而且深具惩罚性（Heaton，Mayson和Stevenson，2017；Lum和Baiocchi，2017）。在许多情况下，现金保释实际上被用作拘留被告并剥夺其最基本权利之一的手段，即在无罪推定下的自由权。

尽管如此，风险评估的批评者担心，改革现金保释努力将不可避免地导致非货币条件的大幅扩张，如电子监控和强制性药物检测。像芝加哥社区保释基金这样的社区组织已经开始追踪这种非现金保释条件的不良后果（“惩罚不是一项服务”2017）。这种社区驱动的监督和研究绝对至关重要，因为它帮助我们了解用其他类型的条件替换现金保释是否实际上只是用另一种过度惩罚性的措施代替了一种过度惩罚性的措施。

如果我们在没有纳入有效干预的知情理解的情况下将算法预测引入复杂系统，这就是我们面临的风险。

这些问题并不仅限于刑事司法系统。在她的最新著作《自动化不平等》（Eubanks，2017）中，弗吉尼亚·尤班克斯描述了一些州和地方政府试图实施自动化决策技术的失败尝试，例如福利和住房的筛选软件，以期更有效和高效地提供社会服务。尤班克斯详细介绍了宾夕法尼亚州阿勒格尼县儿童、青少年和家庭办公室利用数据来筛选电话和为家庭分配风险评分，以帮助确定案件工作者是否应该干预以确保儿童的福利。

四分之三的案件通过办公室处理，是因为一些公共官员确定孩子遭受的是“忽视”而不是虐待——这意味着高风险儿童的症状看起来非常像贫困的症状（Eubanks，2017）。这部分是因为用于训练办公室算法的大部分数据来自公共机构，当有人使用低成本或免费的公共服务，如药物康复或心理健康治疗时，就会收集数据。基于这些风险因素，一个孩子可能会被从家里带走，交给国家抚养，她的结局看起来相当暗淡。那些“年满”而离开寄养系统的孩子更有可能在失业、无家可归、慢性疾病和法律问题方面挣扎（Courtney等人，1998；Reilly，2003）。

尤班克斯认为，我们不应该使用预测算法通过将孩子从家中带走来惩罚低收入家庭，而应该使用数据和算法来提出更好的问题，了解哪些干预措施可以通过解决孩子生活中存在的贫困根源问题，从而使孩子的家庭生活更加稳定。这些例子表明，在本质上，我们一直试图使用算法开发一个水晶球来窥探一些社会上最“高风险”的个人的未来，而实际上，我们需要的是一面镜子来更加严肃地审视我们自己和我们的社会制度。我们需要了解犯罪和贫困的根本原因，而不是简单地使用回归模型和机器学习来惩罚处于高风险情况的人。

这正是媒体实验室人性化AI法律项目的研究人员正在研究的内容。他们提出了一些问题，旨在深入了解塑造法院关心的行为的基本因素，例如未出现在听证会上。目前，“未出现”作为一种风险类别的概念非常笼统：逃离城市的人与数量更大的那些在赴约法庭日期上遇到物流挑战的人混在一起。许多这些挑战与贫困有关：缺乏可靠的交通工具或儿童看护、工作时间不灵活或其他家庭紧急情况。如果法院希望认真减少未出庭的人数，那么他们需要参与研究这些问题，找出并严格测试解决这些问题的干预措施。

我们还将研究诸如将药物检测作为释放条件的政策的影响。正如我上面提到的，这类条件正在广泛使用，但没有真正了解它们在降低累犯率方面的有效性，更重要的是，它们对整个社区的健康状况——犯罪率、就业、居民健康的影响。通过在算法设计中加入透明度和社区参与，公众和受托人可以引导使用这些算法的机构关注更大的图景（Balkin，2015）。使用算法来帮助管理公共服务，要么提供了设计有效社会干预的绝佳机会，要么带来了巩固现有社会不公的巨大风险。为了避免威胁并抓住机遇，我们必须重新构建辩论，并从“无偏见”的预测转向了解因果关系。

从定义上讲，受过训练的算法使用统计和数据来预测事件，以便降低风险或增加收益。当它们用于像预测天气这样的系统时，总体上说，它们增加了社会价值。但是，当预测被用于弱势群体时，我们使自由和权力从弱势者转移到权力者手中。这与民主的基本前提相悖。

当然，使用算法和数据来了解因果关系，而不是预测关系，并不是万能的解决方案。我们面对的问题是自始至终困扰社会的问题的现代版本——收入差距、排外、剥削、人类偏见。我们必须使用算法为反思和自我意识提供工具，并通过公民参与和参与者设计来改善社会状况，或者说系统是由参与者设计的。

这篇文章的关键点是从纯粹的预测相关性转向因果推断。这将是将机器学习应用于我们试图了解和干预的复杂系统和社区的关键。Judea Pearl 和 Dana Mackenzie 的《为什么之书》于 2018 年 5 月 1 日出版，描述了他们所称的“因果革命”，并阐述了统计学如何扼杀了因果研究——理解系统和干预的关键（Pearl 和 Mackenzie，2018）。

4.4.2 健康

4.4.2.1 觉知原则

在过去的四年里，我一直在与尊者丹增普雅达师一起教授一门名为《觉知原则》的课程。 以下是课程描述：

描述

什么是觉知？它是一个“默认”状态还是需要培养的？它是否能提高表现和幸福感？技术在促进或阻碍觉知方面起着什么作用？我们有能力觉知的道德框架吗？自我觉知是否与幸福有关？课程将设定在一个体验式学习环境中，学生将围绕这些问题探讨各种理论和方法。要求学生保持一本记录观察的开放实验室笔记本，并在课堂上定期进行展示。最后的项目将包括评估和开发针对表现和幸福的觉知工具、技巧和界面。

探讨的主题

1. 觉知的边界：自我与他者

2. 变化

3. 关系觉知

4. 非二元性

5. 喜悦与幸福

课堂活动将包括实践、讲座和与特邀嘉宾的讨论。部分讲座将对公众开放。实践活动将从冥想到黑客攻击不等。

这门课程让我们的学生深入探索，帮助他们更好地理解内在动机，觉察到以前的条件反射，以及思考关于健康、动机、情感和目标的问题。课程要求学生每天睡7-8小时，保持规律的冥想练习，以及“每天注意到一件新事物”。通过这种实践和课堂上的对话，我们探讨了觉知的理论和实践。

我相信，通过冥想实践对觉知和内在动机的探索是健康的心灵、文化和身体的重要组成部分。通过这门课程，我在自己身上培养了这种实践，同时也支持学生在他们的发展和探索过程中。学生的日志发布在我们的网站上。我们刚刚完成了这门课程的第四年，现在一个充满活力的校友社区开始形成，这个社区拥有内在动机、觉知和新的繁荣观念的文化。

4.4.2.2 媒体实验室的Health 0.0项目

概述

在媒体实验室的制药、生物技术和健康会员公司中，开发和使用关键新兴技术和工具存在巨大的空白。媒体实验室可以为这些需求提供一套工具，并共同开发不存在的新工具。

媒体实验室可以通过召集并与在MIT和其他机构工作的领先研究人员进行健康研究，催化新颖和非正统的互动、假设和突破。它可以作为顶级制药和健康公司，以及领先的基金会和技术公司的中立召集场所。Pratik Shah博士正在与教师、研究员和我一起进行研究，管理并记录讨论和研究并发表论文。

媒体实验室可以通过召集并与在MIT和其他机构工作的领先研究人员进行健康研究，催化新颖和非正统的互动、假设和突破。它可以作为顶级制药和健康公司，以及领先的基金会和技术公司的中立召集场所。Pratik Shah博士正在与教师、研究员和我一起进行研究，管理并记录讨论和研究并发表论文。

理论

我们计划与历史上没有一起工作过的领域的专家合作，希望开发出非正统的假设和知识和科学上的突破。我们将促成并激发生物学、临床医学、计算机科学以及数学和物理科学之间的反学科互动，以在解决重大挑战并创造跳跃现有方法的新研究机会方面取得突破。我们将建立信任，公开讨论跨学科的问题。质疑关于基本过程的基本真理的假设将使我们能够开发理论和实践系统来模拟和理解人体。我们还将为诊断开发新的理论。

理论的发展也会产生对人类健康和医学（系统级别vs途径，微生物组，音乐，冥想，放松等）的新颖模型，这可能具有预测价值，但尚未被探索或没有商业模型。这将导致健康护理的新范式。

头脑风暴

一组来自物理，化学，生物和计算科学不同领域的专家精选小组于2018年1月18日在媒体实验室举行了与制药公司GlaxoSmithKline和GSK的高级研究员John Baldoni的Blue Sky药物发现研讨会。这是一个典型的媒体实验室类型的头脑风暴会议，没有演讲或官方小组或讲话。焦点仅仅是“药物/治疗发现的未来”。这是来自各种学科的人们聚在一起，讨论他们希望在药物和治疗发现中看到什么的难得机会。研讨会并没有以任何人的当前研究的介绍开始，而是讨论了当前的健康研究状态和参与者感兴趣的各种途径。

实践

开发实践汇集了来自学术界、产业界和政府的领导者，解决发现、研究和临床开发过程中的“此时此刻”的问题。这促成了关键使能工具（AI、密码学、CRISPR等）的集成、发展和影响。我们与食品药品管理局（FDA）、国家卫生研究院、国家癌症研究所以及制药、生物技术和会员公司，以及其他学术合作者和基金会向媒体实验室提供的数据、问题陈述和机会一起工作。这将带来快速的利益和改善健康研究：更安全和更快的临床试验；数字化赋能的研究人员、临床医生、监管人员和患者，以及降低医疗保健成本。

执行和考虑

制药和健康公司通常无法从顶级大学中进行的创新和尖端研究中获益，并最终从公司获得企业解决方案许可，这些公司通常需要大量数据，不分享算法，并要求分享知识产权。

学术研究大学有学生在寻找令人兴奋的研究项目，如果健康数据变得容易获得，它可以在训练他们方面发挥重要作用。目前并非如此。该项目旨在整合FDA和其他来源的大量公开可用的临床试验数据，以构建模型和算法。Health 0.0项目正在召集并支持研究人员和机构在获取、分享、讨论和分析案例研究、出版物和各种类型的生物医学、临床前和临床数据的具体示例，他们的首选格式，结构和通常由专有的制药行业项目，研究机构产生的数量。其中一些可以通过clinical.trials.gov等公开获取。该项目研究了它们如何使用贝叶斯建模、统计、生物信息学和系统生物学进行分析。

在我们追求这些机会时，与会员公司分享计算机科学中机器学习和AI的当前状态，CRISPR，基因编辑和其他技术将是重要的。我们正在对这些主题进行半年度研讨会。AI（DNN和其他模型）的核心能力，应用和新架构的示例，它们可以处理和分类的数据类型也将被讨论和评估。

AI示例

如今，几乎所有的AI分类、预测和学习架构都是使用丰富且通常有良好注释的非临床数据集来开发的。在过去的几年里，我们已经在开发能够从较少的样本中学习（少样本学习）的深度神经网络（DNN）架构上取得了进展；可以使用稀疏的时间数据进行顺序和逻辑推断（递归神经网络）；在最小监督下学习顺序策略（强化学习(RL)），以及可以生成合成数据以增强稀疏数据集的生成对抗网络(GANs)。这些新的方法具有前景，但必须大幅修改以接受临床数据集，这些数据集通常不能像非临床数据那样有效地执行。

我们需要使健康数据可访问、标记、结构化和有组织，以使其有用。

跟踪联合研究项目中的知识产权贡献的能力是重要的。此外，分层硅半导体方法可能是有用的。

Health 0.0项目还将参与头脑风暴会议，以确定使用AI和机器学习解决每个组织特定问题陈述的机会。例如：对于特定的问题陈述，你有访问数据的权限吗？它是否为机器学习进行了结构化？需要多少数据集，以及需要哪些结果？

我们将开发关于媒体实验室小组、初创公司（如：Benevolent AI、Deepmind、Good AI、Vicarious等）和已经开发用于分析临床数据的AI架构的基金会的案例研究、出版物和具体示例。

我们还将开发支持建立所有媒体实验室会员公司都可以贡献并从中获得价值的横向制药/生物/健康数据平台的价值主张。

迄今为止完成的工作

在麻省理工学院实验室，我们与Media Lab制药和科技公司合作举办了一系列研讨会，旨在集思广益，讨论重新塑造医疗保健和探索AI用于药物发现的可能下一步行动。这些研讨会是正在进行和发展中的一系列会议的一部分。

1. 研讨会1：开发临床药物开发的新范式（附录G） 日期：2016年10月7日 地点：MIT Media Lab 组织者：F. Hoffmann-La Roche AG和IDEO

2. 研讨会2：使用人工智能开发药物开发的新范式（附录G） 日期：2017年3月9日 地点：MIT Media Lab 组织者：F. Hoffmann-La Roche AG，Pratik Shah和IDEO

3. 研讨会3：临床开发的AI（附录G） 日期：2017年4月6日 地点：MIT Media Lab会员活动 组织者：Dr. Joe Jacobson 和 Dr. Pratik Shah

4. 研讨会4：人工智能在临床开发中改善公共卫生 日期：2017年10月10日 地点：MIT Media Lab 组织者：Pratik Shah，F. Hoffmann-La Roche AG和波士顿咨询集团 信息：详细议程：人工智能在临床开发中改善公共卫生

下一步行动

• 在Media Lab建立一个沙盒，解决关键挑战并利用机会托管机密且高价值的健康数据，同时促进合作。

• 为健康研究、早期发现、更安全更快的临床试验，数字化赋能的研究人员、临床医生、监管者和患者，降低医疗保健成本，研发新的模型和技术。

• 促进如AI、医疗加密技术和CRISPR等关键工具的集成、开发和影响力。

• 加密的机器学习和数据共享平台，以保护机密信息：Media Lab正在研发新的安全加密环境，以共享和使用高价值的健康数据和匿名查询。

• 解决当前和近期的AI、机器学习和神经网络能力，因为它们与临床开发和健康有关，以便开发一个可持续的模型，弥合AI和数据科学专家与生命科学社区之间的鸿沟。

• 在MIT Media Lab建立非常规的跨学科和反学科的学生培训计划；与MIT、政府、基金会、生物技术和技术公司的领导者和专家一起创建一个沙盒。

4.4.2.3 PureTech Health

2014年，我的生物技术导师罗伯特·兰格邀请我成为一家名为PureTech的孵化器式合作伙伴。这个合作伙伴由强大的生物医学和制药行业领导者组成：罗伯特·霍维茨，一位获得生理学或医学诺贝尔奖的MIT教授；Raju Kucherlapati，哈佛医学院教授和许多生物技术公司的创始人；John LaMattina，辉瑞全球研究和开发的前任总裁；Ben Shapiro，默克研究的前任执行副总裁，以及Christopher Viehbacher，赛诺菲的前任首席执行官。这个合作伙伴有一个强大的科学顾问委员会，并由一位强大的企业家Daphne Zohar管理。

PureTech Health在伦敦证券交易所主板上市，从公众市场筹集了1.96亿美元。我被选为董事会主席，我们还增加了皮尔逊公司前CEO Marjorie Scardino作为董事会成员。PureTech在2018年4月通过私募再筹集了1亿美元。有了这笔资金，PureTech继续进行严谨的科学研究，并已将学术界的许多科学突破推进到临床研究阶段，包括完成了几项积极的临床研究，包括两项积极的关键结果，并等待美国食品和药物管理局的审批。

公司最初在肠道生物群、大脑和免疫系统疗法上进行广泛研究，并逐渐将其工作重点转向免疫系统，特别是淋巴系统。我在公司的参与部分是在互联网方面做出贡献、“科技”视角，以及以不同方式审视思维方式和模型的新视角。公司考虑了数百种新的想法和技术来开发新的疗法。这些想法是由一支强大的科学家团队在内部开发的，他们评估科学成果，进行研究并开发商业模式。一些项目被剥离成为独立的公司，我们有一些非常强大的附属公司，其中一个已经上市，还有几个正在探索货币化机会。

董事会积极参与头脑风暴，对想法提供反馈，招聘和与科学家沟通，寻找合作伙伴。我们也都在子公司和剥离公司的董事会中任职。这个结构相当不寻常，利用了波士顿地区大量高素质的博士后研究人员，他们愿意投入到想法和业务中。PureTech已经能够成功开发出许多不可能通过传统的制药研发过程开发出来的新疗法。

我个人的挑战是将PureTech Health的工作与我在媒体实验室的工作分开。我严格遵守麻省理工学院的利益冲突政策，防止知识产权、资金和资源在PureTech Health和媒体实验室之间转移。这些政策对于防止外部利益影响实验室内的工作和关系非常重要。

4.4.3 应对气候变化

4.4.3.1 Safecast9

2011年3月11日，日本发生了一次大地震。我在剑桥睡觉，两天的麻省理工学院媒体实验室主任面试之间。当我醒来，开始接收到灾难的消息时，很明显福岛第一核电站的问题非常危险。我非常努力地寻找有关这个事件的新闻，但我能找到的最好的新闻是人们正在直播政府和东京电力公司（TEPCO）的新闻发布会。我开始听这些新闻并用英语发布，然后意识到在日本的英语使用者甚至得到的新闻比日本人还少。在东京生活的美国人Matt Alt是将日本新闻翻译成英文推特的关键人物。

因为我们在日本的房子是在爆炸的下风处，我担心那里的家人。我试图找到盖革计数器，但在线上什么都没有。我联系了朋友，发现一个老朋友，硬件黑客Pieter Franken也在寻找盖革计数器，并找到了一些制作它们的工具包。我还听说Sean Bonner，他在洛杉矶共同创立了一个黑客空间，Crashspace，也在试图找出如何使用这样的空间作为社区中心以提供帮助。

随着日子的推移，很明显政府和东京电力公司正在努力控制局面，而发布的信息也不明确。越来越多的非官方网站开始试图报告和理解到底发生了什么以及风险是什么。

Pieter、Sean和我决定我们必须做点什么。最初，我们认为数据肯定是存在的，我们需要做的就是找到它并发布它，但是我们错了。所以我们开始联系其他人。北卡罗莱纳州的工程师Aaron Huslage向我介绍了Marcelino Alvarez，他的公司Uncorked Studios位于俄勒冈州波特兰，已经启动了一个网站来映射聚合的辐射数据。我们也联系了IDEO的设计师Haiyan Zhang，他创建了一个美丽且易于理解的测量地图。我们能够联系到Dan Sythe，他制造盖革计数器，并在帮助我们更好地理解设备和获取我们想要的大型传感器方面起了重要作用。来自麻省理工学院的著名硬件黑客Andrew “Bunnie” Huang也加入了我们。来自庆应义塾大学的Jun Murai帮助我们联系到了Softbank和其他试图建立固定传感器网络的人。刚从微软退休的Ray Ozzie对参与此事感兴趣。Akiba和东京黑客空间也愿意提供帮助。

2011年4月13日，核心团队在东京召集会议，在Digital Garage的New Context Conference (NCC)上讨论项目，该会议迅速取消了原计划的议程，将会议的焦点放在了这项工作上。

NCC是一个由Sean和我一起组织的Digital Garage的年度活动，已经进行了好几年。那年的活动最初计划是关注网络公司的当前趋势，所以演讲者的阵容反映了这一点。然而，地震后，许多承诺在NCC发言的演讲者都主动联系我们，询问他们是否安全地来到日本。那时我们并没有一个好的答案。我和Digital Garage的Hiroki Eda讨论了我们应该如何处理这个活动，因为按照原来的计划继续可能没有意义。我们决定取消这个活动会传递错误的信息，但我们决定改变主题，关注福岛和日本的恢复和下一步计划。考虑到这一点，我们告诉原本预定的演讲者主题正在改变，并给他们选择参加的机会，如果他们不觉得舒适飞往日本，这给了他们一个安全的退路。有些演讲者坚持他们的计划，有些则取消了，但这为我们邀请一些我们已经开始与之谈论关于盖革计数器和传感器的人，以及其他一些人到日本来制定一个恢复计划，提供了空间。Digital Garage捐赠了它的会议室，我们在NCC前后安排了几天的会议，以比较笔记和想法，看看我们是否能够合力做些什么。尽管我们都在地震发生后的几个时刻积极行动，但这次在NCC的会议被确定为Safecast的“诞生”。

在会议上，讨论了许多重要的事情。首先，很明显，我们必须设计并制造我们自己的盖革计数器。此外，我们了解到没有办法得到足够的传感器来建立一个我们想要的那样密集和大规模的固定传感器网络，所以我们需要一个移动解决方案。我们还决定系统收集的所有数据应该被公开。我最近创建了CC0协议，专门用于这类应用，我推动并得到支持，使用CC0协议来处理我们所有的数据。

我们还就名称进行了长时间的讨论。Uncorked团队建立了一个叫做RDTN.net的网站，他们想用这个名字。我们觉得这个名字对日本人来说发音难，并且它强化了对情况的负面看法。Ozzie认为我们需要一个不会吓到人的名字。他建议叫“Safecast”，因为我们正在试图让人们安全。然而，我们无法达成共识，最后让Ray来决定。一周后，Ray选择了Safecast，这是他为另一个他正在进行的项目所拥有的域名。（他后来将域名转让给Safecast，当它被确定为一个组织时。）这个故事很重要，因为我相信这个名字在赢得我们工具的广泛接受和我们努力的支持方面起到了关键作用。David Ewald从Uncorked设计了一个标志性的logo，蓝色的点代表一个人，堆叠的线象征着庇护和信息的广播。

到了四月中旬，Safecast团队的成员们到达了福岛，立即开始进行辐射测量。他们很快就意识到，从一条街的一边到另一边，读数可能会发生巨大变化，而可用的数据则将读数在一个大范围内平均。大约六个月后，团队发现，被疏散的人们被送到了比他们逃离的地区更被污染的社区中去。

Bonner对我们如何可能制造工具包和使用它们来动员人们有一些想法。第一个版本是一个连接到盖革计数器的笔记本电脑，下一个设计用一个Arduino（一个用于交互式电子产品的开源电子原型平台）替代了笔记本电脑。在洛杉矶的Crash Space，Naim负责主要的印刷电路板（PCB）和建模设计，这导致了Safecast bGeigie工具包的设计和部署。

这些工具包最终被证明是一种很好的方式来吸引制造者社区并将他们转变成收集数据的人。这些工具包使我们能够保持精简的库存并跳过制造过程。因此，Safecast的很多活动都致力于通过工作坊来传播这个运动，人们在那里度过一天的时间，彼此制作工具包并了解这个组织。那些自己制作工具包的人比那些购买预装配单元或借用借出设备的人更有可能继续进行测量，甚至超出他们自己的社区。

借助Kickstarter活动的近37,000美元以及Reid Hoffman、Digital Garage、John S. 和James L. Knight基金会以及稍后的Shuttleworth基金会的额外资助，Safecast开始部署盖革计数器并从日本各地的公民科学家那里收集数据。到2016年3月，该项目已收集了超过五千万个数据点，所有这些数据都可以在CC0公共领域的承诺下使用。世界各地的研究人员使用Safecast的数据集不仅是为了更多地了解福岛第一核电站的辐射如何传播，而且还是为了了解不同地区的背景辐射的正常水平，这与许多仅在福岛周围测量辐射的项目有本质的区别。

日本的媒体和政府最初忽视了我们的工作。外国媒体最终开始引用我们的工作和测量结果，但日本人提到我们已经过去了几年。但是受影响地区的当地人支持并欣赏我们的工作，因为我们的团队花时间解释我们在做什么以及我们如何可以帮助，而当时许多政府的活动看起来机械而且没有帮助。政府测量辐射，但是没有分享数据，甚至没有与生活在该地区的人分享，因为这是大多数与数据所有权有关的政府机构的政策，以及公民不会理解数据的一般观念。

一些学者和专家批评我们，因为我们不是专家，他们说他们担心我们测量的准确性。虽然许多公民科学项目并不关注准确性，但这从一开始就是我们的重点——实际上这帮助我们吸引了专家。我们确实从接近无知的地方开始，但通过持续的主动学习和招募许多领域的专家，团队已经获得了巨大的知识和专业知识。John Seely Brown、Lang Davidson和John Hagel在他们的书中称之为“吸引力”（Hagel III、Brown和Davison，2012），这个想法是：当需要时，从网络中获取你需要的东西，而不是储备资源，详细计划，并从中心推动和控制，这是许多非政府组织和政府项目的运作方式。

现在，Safecast已经进行了超过9000万次测量，可以说是最成功的公民数据收集项目。大多数在福岛事件后开始的类似项目已经消失。我们认为成功的关键是我们正在吸引社区，教授他们并使他们自己进行测量。真正使Safecast成功的是社会运动设计。社会运动的成功也是吸引了技术和科学人才，赢得了我们的信任。同样的政府机构过去忽视我们，现在请我们验证和支持他们。早期，我们与日本邮政部门（应日本邮政部的要求）秘密合作，为他们的送货自行车装配bGeigies，这是我们现在可以自豪地谈论的事情。

成功的社区建设涉及到许多元素，但项目的可接触性，开放性和趣味性是关键。我们既从法律角度也从文化角度来讲都是可接触的。我们在全球范围内每个月都为孩子们和老人们举办工作坊，让成千上万的人参与监测他们自己的安全。

Safecast现在正在扩大辐射测量的范围，利用我们在社区管理、硬件、数据共享和传感器方面的专业知识，开始研究空气质量。我们正在参与空气质量工作组(AWG)，并推动它进行标准化。多亏了Sean Bonner的努力，我们已经推动AWG从复制保护数据转向使用CC0奉献分享数据。消除版权束缚对于创建我们可以在其上建设的公共数据平台至关重要。

空气质量领域有许多其他初创公司。但就像互联网在能够建立思科之前需要TCP/IP这样的标准一样，我相信在我们建立可能会保密其方法和数据、选择竞争而不是协作、并为机会和访问权限割据独占的初创公司之前，你需要像Safecast这样的运动来分享数据和召集人们在社区中创建标准理解和分享最佳实践。

这项努力非常类似于互联网的各层，在这里，开放的非营利层和盈利层就像一个多层蛋糕。这两者都需要标准化和保护公共利益，同时允许执行和竞争。

Safecast面临的一个重要挑战是其未来的资金和结构。众筹帮助“启动”了该项目，但它一直依赖基金会和个人的赠款和礼物来维持生存。所有非营利性的基础设施类项目都面临这个挑战。

4.4.3.2 原住民和本地社区

我是麦克阿瑟基金会的董事会成员，该基金会自80年代以来一直在通过资助科学和创造保护区和公园，引领全球保护生物多样性的工作。在保护和研究领域，麦克阿瑟基金会的密切合作伙伴之一就是国际保护组织。

多年来，我们已经意识到，尽管我们花费了数亿美元，但气候仍在恶化。虽然许多努力在一定规模上取得了成效，但在全球范围内，我们的努力无法逆转包括自然碳汇在内的自然栖息地的破坏。

国际保护组织提出了一套项目，以保护土著人民的权利，然后轮到他们保护他们的栖息地。

事实证明，地球表面的二十分之一是由土著人民和本地社区控制的。这可能听起来没那么多，但它涵盖了全球八十分之一的生物多样性丰富区域。在过去，大多数保护努力都致力于保护“自然”，而非人类，常常以人权和保护土著人民为代价，换取领导人保护生物多样性区域的承诺。这个新的项目认识到，我们不需要为了保护环境而牺牲人权，实际上，土著人民在许多情况下可以更有效、更高效地保护环境。

国际保护组织的负责人Peter Seligmann离开了，创立了一个新的组织Nia Tero，专门关注这种改变的理论。

我参加了一个闭门会议，我们邀请了各种土著人民的领导者和保护运动的领导者，讨论创建这个新实体。我们决定，董事会主席应该是一个土著人，一半的员工也来自土著人口。

特别地，我对我们如何把科学带到这些地区、帮助理解和保护萨满和土著文化的智慧和科学，感到非常感兴趣。我现在支持几项努力，包括对这些人群中有医学价值的基因组发现进行法律保护。我也正在努力把这些文化的敏感性翻译给发达世界。媒体实验室的Kevin Esvelt正在致力于向土著人民介绍CRISPR基因驱动技术，目标是让他们能够控制这项技术的开发和部署，以消除入侵物种。

我作为演讲者参加了在马拉喀什举行的首次环保人士和土著人民的全球大会，并正在帮助组织下一次在旧金山的会议。我们希望在2020年在日本举行两年一度的会议。我也加入了国际保护组织的顾问委员会，并在Nia Tero担任科学和技术主管。我招募了Margarita Mora，她曾在国际保护组织负责土著人民项目（现在她在Nia Tero），成为媒体实验室的董事会成员，她正在和我们一起努力更紧密地将她的工作整合到媒体实验室的工作中。

附录F中附有Nia Tero的序言草案。