脑机接口负责任创新研究进展
陈丽娜，王大洲
(中国科学院大学 人文学院，北京 100049)
摘 要:作为一种新兴的生物医学工程，脑机接口的研究与创新涉及诸多伦理、法律和社会问题。如何保证脑机接口创新走在负责任的轨道上，近年来已经成为学术界的热点话题。从三个方面综述了相关研究进展：一是脑机接口负责任创新的原则和实施框架；二是科研团队、企业和用户在脑机接口负责任创新过程中的作用；三是脑机接口负责任创新中的公众参与、媒体责任与政府定位。在此基础上，引出了若干需要进一步研究的问题。
关键词:脑机接口；负责任创新；利益相关者；伦理问题
引言
随着人工智能的迅猛发展，脑机接口（Brain- computer interface，简称BCI）作为人工智能2.0时代的新兴生物医学工程，已逐渐进入人们的视野。脑机接口是指不依赖常规的脊髓/外周神经肌肉系统，在脑与外部环境之间建立的一种新型信息交流与控制通道，其目的是实现脑与外部设备的直接交互[1]。该技术肇始于20世纪70年代，近年来随着生物学、神经科学、生物材料和计算机科学等领域的进步，不断取得新突破，正在被越来越多地应用于人类和非人类的灵长类动物身上[2]。
目前，国内外许多公司或研究机构都加紧了脑机接口技术研发，如马斯克（Elon Musk）于2016年创立Neuralink公司，计划在4年内开发出首个用于治疗脑部疾病的脑机接口产品[3]；Facebook也正在开发能实现意念打字的非植入式脑机接口和拥有“听力”的皮肤传感器[4]；在线支付公司 Braintree 的创始人约翰逊（Bryan Johnson）投资 1 亿美元给 Kernel公司，专门从事脑机接口研发；2017年，美国国防高级研究计划署（DARPA）计划在四年内投资 6000 万美元，开发植入式神经接口技术等[5]。事实上，早在2013年，欧盟、美国就推出了各自的脑计划，前者拟十年内投入10亿欧元[6]，后者拟投资60亿美元。中国的脑科学计划也已经作为重大科技项目被列入了“十三五”规划。
但是，脑机接口技术创新在可能带来巨大经济利益的同时，也涉及很多伦理、法律和社会问题。除了安全、公平、隐私、歧视等新兴技术都会遇到的问题之外，脑机接口技术还会带来一些特殊问题。由于该技术涉及大脑这个人类最重要的器官，因而会产生“脑控”或“控脑”的问题，从而对人的自我同一性、自主性、人格等造成负面影响[7]。那么，如何才能将责任意识内嵌于脑机接口技术创新的全过程，从而尽可能规避风险，更好地造福人类，是研究者必须认真思考的问题。负责任创新理念为上述问题提供了一种解决思路。
“负责任创新”又称“负责任的研究与创新”（Responsible Research and Innovation，简称RRI），是近年来从欧美国家兴起的一种创新理念[8]。该理念要求关注科研与创新过程中的社会、伦理和法律问题；强调利益相关者群体的共同参与和集体协商；强调伦理学家等人文学者的早期介入和实时评估[9]。典型的负责任创新包括预测、反思、协商、反馈等四个维度。预测维度要求把科学证据与未来分析结合起来，使创新者能够更好地理解所面临的机遇和挑战；反思维度要求创新者对自身的行为和创新过程进行反思；协商维度要求把愿景、目的、问题和困境放到更大的社会场景中，通过参与来实现集体审议；反馈维度则指根据利益相关者群体的反馈，及时对创新活动框架和方向进行调整[8]5-6。
国内外学术界关于脑机接口负责任创新的研究始于21世纪初，迄今有近20年的历史。本文通过综述相关研究文献，对其研究主题进行梳理，旨在把握研究趋势并发现关键问题，以期为下一步研究奠定基础。
1 脑机接口负责任创新的原则与实施框架
媒体作为连接科学界与公众的一个重要纽带，对公众理解和参与脑机接口创新过程具有导向作用。公正、客观、正确的媒体报道有利于加强公众对于脑机接口技术的了解；反之，极端、扭曲、错误的媒体报道则会加深公众对脑机接口技术的误解。因此，新闻媒体在宣传时应着力避免盲目炒作脑机接口技术，从而更好地管理最终用户的期望。
脑机接口的一个重要应用是面向残疾人的，所以满足残疾用户的需求的确是重中之重。学者们也认识到了让残疾用户参与研发的重要性，但是对残疾用户参与方式的讨论仍然比较少。上文中提到的参与式方法，还有很大局限性。鉴于残疾用户的特殊性，哪种方式更为有效，是今后研究的一个重要方面。
在此之前，欧盟第七框架计划BRAIN项目已经为脑机接口研究团队提供了一些考量伦理问题的指导原则，包括：（1）建立道德委员会，并通过委员会向用户报告关于脑机接口负面影响在内的任何情况；（2）确保用户（例如患者）知情同意，提醒他们不要对脑机接口有过高的期待并有权要求在任何时候停止脑机接口实验；（3）制定脑机接口实验伦理规范，并对设备操作者进行专门培训；（4）筛选最有可能受益于脑机接口技术的患者；（5）预测脑机接口实验可能产生的风险并设立程序以尽可能防范风险[11]。此外，欧盟脑计划（HBP）中专门设置了研究社会和伦理问题的子项目SP12。艾卡迪（Christine Aicardi）等人针对其中的“前瞻实验室”进行了研究，指出其面临的三个挑战：（1）大多数科学家和工程师认为脑计划从根本上来说是一项基础研究项目，前瞻性研究并不会对其产生直接影响；（2）在实践中，很难将负责任创新理念从一开始就嵌入大型多学科研究项目中，从而确保科学家和工程师从一开始就反思自己的工作；（3）开展负责任创新并非意味着将“道德”在某种程度上外包给“道德子课题”，而是要让研究者更深入地理解其在创新体系中的作用，同时也为利益相关者提供关于技术未来应用及潜在影响的信息。为此，他建议在负责任创新框架中纳入历史维度，特别是要以技术发展史为鉴，以更好地理解未来社会的技术发展趋势，同时要特别重视负责任创新理念在推动新兴技术应对社会问题方面的作用[12]。
政府在脑机接口研究与创新中的首要作用，是为脑机接口负责任创新的实施创造良好的制度环境。加登（Hermann Garden）等人指出，政府应该重视能够解决更广泛的社会需求和价值观的标准和治理框架的制定[10]646。李佩瑄等人在分析和讨论脑机接口的发展趋势和相关伦理问题的基础上，认为政府要在充分研究和征求专家意见的基础上，做好立法准备和手段储备[7]44。在确定相关政策的过程中，政府应保持中立立场，广泛征求各方意见，合理决策。
趾板布置在坝体上游防渗面板周边，与面板共同作用，形成坝基以上的防渗体，并与基础岩石通过固结灌浆、帷幕灌浆连成整体，封闭了地面以下的渗漏通道，形成一个完整的防渗体系。
对创新学分制培养创新型人才的思考………………………………………………………………………………张志成（2.68）
脑机接口涵盖了生物医学、计算机技术、人机交互、认知增强等多个领域，对这些相关领域展开的负责任创新研究也可为脑机接口负责任创新提供借鉴。格里姆（Barbara Grimpe）等人对人机交互领域中的负责任创新的内涵进行了重新解读：首先，反思的具体内容及实施程度取决于特定群体实践中的具体问题；其次，反馈是情景化、交互式和面对面完成的，因此要认识到在某些情况下（如与弱势人群进行交流时）反馈过程会变得困难，故还需要相应的响应机构；再次，在协商概念里要重视设计师作为新产品倡导者的责任；最后，在预期概念里，设计师应该充分考量用户在日常生活中对技术的运用方式，并通过制定使用规则进一步帮助用户[16]。
当前，脑机接口创新的主要目的是治疗癫痫、锁定综合症（locked-in syndrome）等，因此也隶属于医疗创新。针对负责任的医疗创新，德默斯-帕耶特（Olivier Demers-Payette）等人提出，首先应该明确医疗创新的用途及其使用情景；其次，更好地协调医疗创新价值体系与社会实践；再次，用户和公众需持续参与创新过程；最后，要在高度管制的环境中灵活地指导创新路径[17]。脑机接口除了可应用于医疗领域，还可能成为人类增强认知的手段。例如，美国军方正在进行通过脑机接口提高士兵认知能力的研究[18]。雪莱-埃加纳（Clare Shelley-Egana）等人认为，人类认知增强背景下的负责任创新应该具有以下六个特征：（1）整个研究过程要保持开放和透明；（2）突出在非治疗情况下使用相关技术的效益和风险；（3）利益相关者参与相关政策的讨论；（4）通过预测和反思提供有价值的见解，同时提高根据现有情况采取行动的能力；（5）为了适应利益相关者的反馈和不断变化的环境，应树立机制意识；（6）注意研究人类增强技术在解决社会问题方面的作用。他们强调，在人类增强技术的创新治理过程中，要特别重视整个过程的开放和透明[19]。
综上所述，目前关于脑机接口负责任创新的实施框架和原则的讨论已经有了较好基础。大体上可以概括为以下四个方面：（1）重视利益相关者的交流与沟通，尤其要考虑残疾用户等弱势群体的参与困难，并积极寻求解决方案；（2）组织跨学科交流与合作，强调让人文学者和社会科学家参与创新过程；（3）注意新技术使用的各种具体场景，注意在实践中产生的问题；（4）重视以往负责任创新实践经验，收集并反思关于负责任创新实施过程及有效性的证据。
2 脑机接口负责任创新中的科研团队、企业与用户
当代的技术创新往往不是特定企业或者特定行业内部的事情，尤其是像脑机接口这类敏感性的技术创新，更加需要本着开放的精神，让更多利益相关者参与进来，协同治理。因此，如何保证各个利益相关者群体的有效参与和相互沟通，是当前脑机接口负责任创新研究中需关注的问题。
2.1 科研团队的责任问题
脑机接口技术涉及神经科学、脑科学、生物科学、计算机科学、医学等多个学科领域，不同领域的科学家对于脑机接口技术的关注重点不同，对脑机接口的效益和局限性的判断也会存在差异，进而会影响他们接触的用户及普通公众对于脑机接口技术风险和收益的判断。所以，跨学科研究团队成员在脑机接口负责任创新中负有特殊责任。
目前脑机接口还处于从实验室研究向市场应用的转变时期。不过，由于脑机接口可以广泛应用于医疗健康、VR、教育、智能家居等多个领域，因此全球范围内已经出现了不少脑机接口企业。而企业作为技术创新的主体，其在创新过程中履行责任的状况，对脑机接口技术能否得到善用有着重要的影响。
哈塞拉格尔等人指出，公众对于脑科学、神经科学领域专业知识的理解有限，这就需要跨学科研究团队安排一个或多个知晓患者情况并拥有多学科知识的人，作为患者和跨学科团队之间的“中间人”，以便增进两者之间的相互理解[20]1355。但是，这种策略对于一些特殊病人，如锁定综合症患者，在知情同意的问题上仍存在困难，因为这类病人可能根本无法与外界进行正常沟通。因此，如何使这类特殊病人知情同意，仍需进一步讨论。
脑机接口科学家在媒体宣传中也负有重要的责任。媒体在宣传时为制造噱头多以对未来的预期为主题，这就要求保证预期的合理性。所以，科学家在与媒体谈论脑机接口技术时，表达要谨慎，避免不切实际的畅想[20]1356。尼博尔等人通过访谈脑机接口科学家对于媒体沟通时的看法时发现，科学共同体成员普遍认为，在与媒体沟通时要保持适当的热情，并有责任在可能的时候积极检查和纠正媒体错误的表述，在将自己的发现真实地描述给媒体和学术期刊的同时，还应全面、准确地报告科学论文中的方法[22]556。麦格林（Patrick McGurrin）等人强调，科学家的研究论文应力求集中讨论科学成果，以限制其他目的推断的可能性[23]。所以，科学家团队在对媒体宣传有关脑机接口技术的时候，要言辞谨慎，确保公众和用户可以对脑机接口的发展现状有一个清晰而准确的了解。
2.2 企业的责任问题
哈塞拉格尔（Pim Haselager）等人通过调查锁定综合症患者在知情同意方面面临的困难，对如何提升脑机接口团队的道德责任感进行了分析[20]。他们指出，正是由于脑机接口团队没有与患者进行密切沟通，才导致其道德责任感相较于普通医疗团队有所欠缺。为此，他们采纳了萨纳瓦尼（Shanawani H）等人关于医生在患者临终关怀中履行责任的两点建议：一是确保团队成员出席有患者及其家属参加的决策会议；二是团队成员要进行“预备会”，就可能发生的问题或冲突进行充分讨论[21]。无独有偶，尼博尔（Femke Nijboer）等人在调查了脑机接口研究者对团队责任的看法之后，也引述了同样的建议[22]。
然而，目前人们对脑机接口企业的了解并不多，学术界关于企业在脑机接口负责任创新中的责任问题的研究也比较少。尼博尔等人通过对第四届国际脑机接口会议的参会者进行问卷调查发现，大多数与会者不太了解脑机接口公司的情况，尽管他们对脑机接口设备特别是非医用脑机接口设备的商业化是非常期待的。这从侧面说明，目前脑机接口企业的信息不够开放透明或者公众缺乏了解脑机接口企业的渠道。因此，他们认为，提高包括公众在内的利益相关者对于脑机接口企业的认知是未来需要努力的方向[24]。
范阿普（Jan Van Erp）等人重点探讨了非医用脑机接口设备的负责任创新问题。他们认为，要将此类设备大规模推向市场，仅仅解决技术挑战是不够的，重要的是企业要考虑到用户的特征、需求、期望和接受度等。为此，企业应该采取措施，让用户充分参与进来，从而获得用户的及时反馈并以负责任的方式改进产品。在这个过程中，企业开发人员不仅要处理好关于脑机接口的媒体宣传问题，还要通过举办非医用脑机接口的伦理问题讨论会的形式，加强人们对非医用脑机接口设备的了解。不仅如此，他们还提出了若干负责任地推进脑际接口设备商业化的建议：（1）通过受控实验室环境之外的大规模实施获得更多实践经验和反馈；（2）在设备研发的早期阶段就让用户和相关行业人士参与进来；（3）鼓励就非医用BCI创新的伦理问题展开专门讨论；（4）为医用脑机接口和非医用脑机接口制定共享的研究议程和路线图；（5）实现医用和非医用BCI应用之间的知识、能力和技术的转移；（6）让国家和国际（标准）组织参与进来，共同制定BCI系统的产业标准以及相关伦理规范[25]。
总之，企业在脑机接口负责任创新中负有特殊责任，应着力增进创新过程的开放度和透明度，让潜在用户和其他利益相关者参与到创新过程中，从而通过各方反馈及时改进产品。同时，还应通过各种渠道，就脑机接口设备开发涉及的伦理问题展开专门讨论，加强对脑机接口设备的负责任宣传，主动参与相关标准和伦理规范的制定，从而促进脑机接口设备以负责任的方式进入市场。但总体上看，目前学术界关于企业在脑机接口创新中的责任问题的研究仍然偏少。
2.3 用户参与
目前，脑机接口设备多用于治疗锁定综合症、癫痫症和肢体残缺症患者。在早期研发和设计阶段，这些患者的参与至关重要。这不仅可以让研究者更好地了解用户需求以研发出更为实用的技术，同时也可以通过用户参与，增进其对脑机接口技术的理解，减少产品推广的市场阻力。
尼博尔认为，脑机接口作为辅助技术时更应重视责任问题，在设计时要从以功能为中心转向价值敏感性设计。换言之，不仅要注重功能，还要考虑人的价值，如自尊、自我表达和自主等[26]。卡迈克尔（Clare Carmichael）等人基于BrainAble项目的经验，特别强调了残疾用户的参与。他们认为，在脑机接口等新兴领域从事研究和开发活动的伦理框架应该以“关怀义务（duty of care）”为基础，同时还要有足够的灵活性，使研究人员能够根据参与者的需求调整项目程序[27]。希克坦兹（Silke Schicktanz）等人和苏里文（Laura Specker Sullivan）等人立足访谈资料，对如何在脑机接口领域开展以用户为中心的设计进行了讨论。希克坦兹等人特别强调要对脑机接口设备的潜在用户进行访谈，并提出了参与式设计的具体步骤：首先，通过民族志或研讨会等方式对残疾人的生活方式进行初步考察；其次，从科学家和用户两个视角来理解和定义产品需求；最后，研究结果不仅要在科学期刊上发表，还应以潜在用户可以理解的形式（包括日常用语）进行传播[28]。他们还指出，这种参与式设计比较复杂，需要跨学科安排，而且可能耗费大量时间和资金[29]。苏里文等人通过对植入式脑机接口技术开发者进行的访谈，对在脑机接口领域开展以用户为中心的研究提出了五项建议：（1）应该进一步考虑残疾用户参与的时间，这样可以明确这种参与对于该领域不同类型研究人员的重要意义；（2）以用户为中心的设计方法除了要通过中间人收集残疾人用户的看法，也要为研究人员创造机会，让他们与残疾人直接接触；（3）在实施以用户为中心的设计方法时，要选取来自不同参与组的最终用户的反馈，而参与者组应能代表潜在最终用户组中的所有观点；（4）进行以用户为中心的设计时，需要意识到研究人员想要制造一种技术先进的设备和最终用户想要使用的设备之间可能存在的矛盾关系；（5）让开发者明确以用户为中心进行设计的重要性，以便更好地满足残疾用户的需求[30]。
鱼类的听觉特性因鱼种不同而有差异。牙鲆、黄盖鲽等无鳔类的听觉能力较差，真鲷、鳕等非骨鳔类的听觉能力比无鳔类要好，而在鱼类中听觉最敏感的是金鱼等骨鳔类。骨鳔类的可听声音频率范围为16～15000Hz，最敏感区间为100～1500Hz。麦穗鱼与鲤、鲫、鲢、鳙等同属于淡水骨鳔类，具有相近的听觉特性，最敏感频率范围为200～600Hz。本实验放声频率选择400Hz，可避免低频环境噪声对试验的影响，结果表明，麦穗鱼对400Hz正弦波连续音反应敏感，为正趋声性。在实验中发现，麦穗鱼为底栖型鱼类，属于负趋光性，因此，在水下扬声器下方也会囤积部分鱼群，给实验数据带来一定的误差。
世界经济合作和发展组织（OECD）已经就此做出努力。2016年，该组织召开了一次题为“神经技术和社会：加强脑科学负责任的创新”的研讨会，就脑机接口在内的脑科学领域负责任创新实施框架和原则达成以下共识：（1）强调公共研究资助者、私人投资者和基金会在塑造神经技术未来发展中的作用；（2）强调监管机构和政策制定者与各类利益相关者合作，以便在技术商品化之前更好地确定治疗与增强之间的界限；（3）为确保预期治理的有效性和可信性，要努力探索跨部门治理和公共审议方法；（4）要将当前的脑科学更好地融入学术课程、临床实践和科学传播中，以促进对相关技术发展的理性讨论。与会者还进一步提出了可操作性建议：（1）深化对脑科学伦理和法律问题的讨论；（2）研究者主动与患者或患者组织接触，以更好地了解其在临床研究、诊断和治疗中使用神经技术的立场；（3）为不同利益相关者开发将负责任创新理念纳入新兴技术的框架模型；（4）进一步收集关于负责任创新在欧盟内外发挥影响的证据[10]。
3 脑机接口负责任创新中的公众、媒体与政府
3.1 公众参与
如果说，用户参与可以为脑机接口研发指明方向，那么，更广泛的公众参与则可以为脑机接口创新提供一个更好的舆论基础。那么，如何才能使公众参与到脑机接口创新过程呢？
在这方面，科学界需要付出更多努力。史密斯（Colton D. Smith）认为，神经学家、基础神经科学等多领域科学家需要共同促进科学界与公众的联系[31]。杰巴里（Karim Jebari）则为公众参与提出了一个具体方案，即参与式技术评估与情景规划相结合的方法，他称之为求同研讨会（Convergence Seminar）。求同研讨会是在不确定条件下达成理性决策的方法，主要有三方面要求：一是应分别讨论几种不同的场景，每种场景都揭示了现在或将来期望采取的决定所可能产生的后果；二是应进行系统比较，考虑每种情况并与其他情景进行对照评估；三是该过程要易于使用，并可在几个小时内完成。同时，通过在欧洲尝试运用这种求同研讨会，作者发现它能激发公众对于讨论脑机接口技术发展的兴趣，具有很大的应用价值[32]。但是，由于不同国家的体制背景不同，在欧洲实施效果良好的求同研讨会，能否在其他国家也有如此好的效果，仍有待进一步研究。
3.2 媒体责任
目前，学术界已经对负责任创新的内涵、原则和实施框架等进行了比较充分的讨论。然而，要把该理念落实到脑机接口的技术创新中，还需更具体的分析与实践。
SPF(Specific pathogen free，无特定病原体级)小鼠，体重18～22 g，雄性，购于辽宁中医药大学实验动物中心。
我国标准制定的时间较长，特别是对于森林、草场、海域的测绘标准，需要对标准进行修订，以满足现在多样化的测绘需求。建议由专业机构对测绘的基础技术规程、不动产分类编号标准、测绘图纸绘制标准重新修订，建立完善的测绘体系及技术标准[1]。
媒体应该意识到科学家和公众对于科学的认知是存在差异的，前者熟知科学知识具有不确定性，但公众常常认为“科学发现”是一个事实，具有“100% 准确性”[33]，所以，哈塞拉格尔认为媒体宣传要重视对研究结果的审查和措辞[20]1356。
关于科学传播的可靠性问题，琼（Irja Marije de Jong）等人通过研究1992年至2012年间荷兰报纸关于神经影像学研究的报道，发现这些报道非但没有缓解公众可能的误解，反而助长了炒作。在此基础上，他们提出了神经科学-媒体接口的模型，认为该模型可以很好地缓解新闻媒体对于神经技术不切实际的宣传。其基本框架如下：（1）负责任的神经科学报道内容除了技术的可能性和障碍，还应包括神经科学研究和应用的历史、文化、社会和规范意义等；（2）应对影响科技成果转化的众多因素加以反思，做到探索长期趋势与介绍新问题并重，同时避免对未来预期的重复性报道；（3）为了从多个角度就神经科学的研究和应用展开对话，要组织经常性、交互式的跨学科会议，参与者不仅要有神经科学家，还要有科学记者、新闻编辑、新闻发言人、特殊利益相关者（如潜在用户）乃至社会科学家或人文学者等。他们认为，这样的接口可以为神经科学家提供机会，使他们能够进行更广泛的社会和伦理考虑，生成更多可选择的研究路径[34]。
实际上，新闻媒体对新兴科技进行渲染报道是一种常见手段。对于一般性的科技报道而言，一定程度的夸张是可以接受的。但是，当媒体报道与商业利益相结合时，就可能产生很多不良后果。所以，除了上述学者提到的媒体责任，如何对涉及商业利益的媒体宣传在伦理乃至法律层面进行规约，是需要进一步研究的问题。
3.3 政府定位
政府作为创新的引导者和相关政策的制定者，在脑机接口负责任创新中起着不可或缺的作用。
二要着力完善财务制度。要根据国家纪检、监察、财政、审计等监督管理的新要求，加强水利财务管理制度体系建设，抓紧出台加强水利财务监督管理指导意见等规定，进一步规范资金分配、项目管理和验收流程，强化内部控制。要完善资金管理责任追究制度，深入推进以单位领导为重点的行政问责制，把行政问责与行政监察、财务检查、审计监督结合起来，真正形成强大制度威慑力。
除了欧盟，英国纳菲尔德伦理委员会曾发布过一份题为《神经技术：干预大脑》的报告，提出了一系列从伦理角度指导治疗性神经技术发展的优先事项，包括：（1）确保创新的目的是减轻患者的痛苦；（2）搜集创新有效性和安全性的证据；（3）参与创新过程的个人和机构要以批判的眼光看待技术发展；（4）注重对跨学科研究的协调。加德纳（John Gardner）等人进一步提出了确保负责任创新理念在实践中实现的四条路径：（1）深度参与由各类专业人员、工程师、制造商、监管机构、用户等组成的创新生态系统，以得到持续的反馈、评估；（2）通过多学科协同，开展人种志研究，了解创新联盟的形成过程以及障碍的性质；（3）了解作为脑机接口用户的患者的经历，包括患者本人对疾病的理解、这种理解是否受到了文化和社会因素的影响，以及这种疾病对患者日常生活和幸福感的影响程度，以帮助定义新医疗技术的需求；（4）把社会科学家纳入研究和创新的过程，允许他们提出反面意见[13]。
对负责任创新原则和框架的具体化还应该建立在理论分析的基础之上。负责任的研究与创新强调科技创新的各相关主体和行动者共同参与协商，在创新的早期阶段介入并实时评估[14]。韦洛索（Gabriel T. Velloso）在分析了建设性技术评估和面向未来的技术分析这两种方法的优缺点的基础上，提出了一种更具综合性的脑机接口技术评估框架。该评估框架主要分为三个阶段：第一阶段明确技术的发展现状，并系统搜集运用STEPV（社会、技术、经济、环境、政治和文化价值观）和SWOT（优势、劣势、机遇、威胁）方法所需要的信息；把握利益相关者的反馈以协助拟定研究问题；第二阶段，根据研究问题设计调查问卷，并发送问卷，同时对利益相关者进行访谈；第三阶段，为创建场景收集信息，场景是未来使用脑机接口设备时可能出现的情况，该信息的收集将采用SWOT、STEEPV和文献评论等方法。其具体实施过程包括：（1）对研究主题进行文献分析，以便深入了解实际情况及其前景，并预测技术可能性及应用前景；（2）对技术进行结构和特征分析，明确与之相关的关键问题特别是尚未充分了解的部分，并确定收集专家意见的方法；（3）绘制SWOT，确定与主题相关的社会、技术、经济和道德/文化/哲学限制；（4）充分了解包括机构、组织、大学、私营和上市公司、政府、专家、研究人员等在内的所有利益相关者，并挑选关键利益相关者进行访谈；（5）列出剩余的信息收集活动，将收集到的信息系统化，并将发现结果结构化；（6）宣传该过程中产生的分歧和建议[15]。
面团搅拌有6个阶段，当面筋达到完全扩展阶段时，这是制作大多数面包的最佳筋力效果，但是并不是所有的面包品种都要搅拌到面筋完全扩展，比如辫子面包，如果面团筋力太强，整形过程中容易收缩，造型不佳；起酥面包既要有一定的筋力，又要防止筋力过强，面团收缩变形严重，通常可以搅拌到扩展阶段即可，经过包油反复折叠，筋力还要适当增强。吐司面包、甜面包面团都要使面筋达到完全扩展，如果采用一次发酵法，面团还要在完全扩展的基础上，稍微再搅拌久一点，这样面团松弛的时间就会缩短，方便整形操作。
当然，政府作为行动者，在对脑机接口这类新兴技术的治理中常常处于矛盾状态：既要发展科技，又要承受来自公众、国际社会等的舆论压力，而对新技术可能产生的后果也并不拥有完备的知识储备。因此，不少学者认为，政府在治理过程中，无需扮演主导者的角色，而应着重发挥组织和支撑作用。目前，欧盟正在实施一项协调和支持脑机接口利益相关者有效沟通与交流的行动计划——“BNCI地平线2020：大脑/神经计算机交互的未来”，除了为项目提供支持外，欧盟政府并未谋求主导地位，而是将整个项目全权放手给格拉茨科技大学，同时由12个在脑机接口领域具有权威地位的研究机构或企业辅助项目的实施[35]。除了欧盟，美国政府在其“脑计划”项目的实施过程中也未处于主导地位。作为实施“脑计划”的主要机构之一的美国国立卫生研究院（NIH），在“脑计划”启动之初，就成立了一个由多位有全局观念和战略眼光、有公心的著名脑科学家组成的专家委员会，并由该专家委员会讨论得出了“脑计划”的具体内容和实施过程。鲁白认为，这种由科学家主导研究方向，而政府官员或科技管理者只担当组织者和赞助者的做法很值得学习[36]。
除了提供政策和资金支持，政府还应该在两个方面加强教育。一方面，要培养具有负责任创新理念的专业人士。诺瓦克等人通过对澳大利亚实施的公众参与脑机接口技术的方式——“脑对话”进行SWOT分析，认为澳大利亚实施负责任创新的尝试受到阻碍的一个重要原因，是缺乏具有负责任创新理念的专业人员，因此建议对相关人士进行专门培训[37]。另一方面，要对现有的教育体制进行必要改革，在教育中融入平台型技术相关内容，提升普通公众乃至伦理学家的科学素质，以便他们能够更好地参与到新技术的讨论中，乃至介入脑机接口负责任创新过程。哈拉（Khara M. Ramos）等人通过反思美国国立卫生研究院将伦理整合进其脑计划的经验，指出在类似神经科学项目中成功纳入伦理学研究的两大关键是参与和教育。所谓参与，是指公众、科学家、伦理学家等利益相关者之间的交流与互动；所谓教育，指的是针对非科学界人士进行神经科学及神经伦理学教育，意在降低参与门槛，使公众更容易与科学家、政策制定者、资助机构等进行接触，同时使伦理学家更有能力协助科学家进行负责任的研究和创新工作[38]。
最后，在全球化背景下，对包括脑机接口在内的神经科学的伦理考量已不再是一个国家内部的事情，在这种情况下，各国政府应该营造更加开放的环境，加强全球层面的行动者之间的协调[10]646。目前，各国、各地区的政府已经举行了一系列的关于神经伦理学的国际研讨会，积极促进世界各地有关神经伦理学的组织或部门的交流与沟通[38]127。
第二，“全面”落实。全面从严治党突出强调了新时期任务的艰巨性、复杂性，凸显出十八大以来以习近平为核心的党中央以广阔的理论视野来认识从严治党，同时也体现了中国共产党对于推进从严治党的决心和毅力。全面从严治党包括对思想、组织、作风、制度、反腐倡廉等方面进行治理，因此，在实施过程中，需要将思想、组织、作风、制度、反腐倡廉视为一体，不能厚此薄彼。实施全面从严治党就要同时部署、发力，这样才能形成全方位格局，加强党的建设。
4 结论
综上所述，学者们基于对脑机接口负责任创新的相关案例分析，以及对脑机接口研究人员和用户的访谈问卷调查，在脑机接口负责任创新的研究上取得了不少进展。主要表现在两大方面，一是逐步明确了脑机接口负责任创新的原则和实施框架；二是深入讨论了脑机接口负责任创新过程中科学家、企业用户、公众、媒体和政府等利益相关者的角色定位和责任问题。这些探讨和有关建议值得国内相关研究者和实践者加以借鉴。特别是关于政府在脑机接口负责任创新过程中应该扮演组织者和支持者而不是主导者的观点，很有启发性。
尽管如此，当前关于脑机接口负责任创新的研究还有一些需要深入讨论的问题，主要包括以下四方面。（1）鉴于脑机接口分为治疗型和增强型两大类，而不同类型的脑机接口面临的问题会有很大不同[39]，因此应该对其负责任创新过程进行有针对性的研究。不仅如此，在实践过程中，两者之间存在模糊地带，如何进行有效区分，也是一个有待解决的问题。（2）当前脑机接口研究多在实验室中进行，但由于其广阔的市场前景，商业化是必然趋势，而当脑机接口与商业利益更紧密地结合在一起的时候，企业必然会出于自身利益去研制具有特殊功能的脑机接口设备特别是非医用脑机接口设备，但目前关于脑机接口创新中的企业责任问题，还缺少深入研究，亟待进一步推进。（3）当前的研究特别重视残疾人在脑机接口研发过程中的参与问题，但是对残疾人用户参与方式的讨论还有待深化。尤其是对于像锁定综合症这类患者，他们很难与外界直接交流，需要在别人帮助下才能表达自己，这就涉及如何准确理解这类患者真实意愿的问题，因此，如何才能使残疾人用户更好地参与到脑机接口创新过程中，还需要深入研究。（4）不同国家由于其文化背景不同，对包括脑机接口在内的神经科学领域的伦理判断也会存在差异，因此脑机接口负责任创新研究应该充分关注这种文化和体制上的差异，以便找到符合自身国情的脑机接口负责任创新方案。例如，在公众参与上，欧洲实施的求同研讨会以及澳大利亚实施的“脑对话”的确都有利于加强公众参与，但由于国情差异，能否有效移植，尚需探讨。
邹庆鹏在致辞中介绍，河南作为中国农业大省，亦是全国农药生产、经营、使用大省。当前，河南省共有165家农药生产企业，年产农药约为2.6万吨，农药经营单位3.5万多家，年农药使用近1.7万吨。自新的《农药管理条例》实施以来，河南将贯彻落实新条例作为本省农业发展的一项重要任务，加大相关规章制度宣传工作，加强农药监管巡查工作，助力农药产业转型升级，力促农药企业做大做强，切实发挥保障国家粮食安全压舱石的作用。
参考文献
[1] Lebedev M A, Nicolelis M A. Brain-machine interfaces: Past, present and future[J]. Trends in Neurosciences, 2006, 29(9): 536-546.
[2] Kotchetkov I S, Hwang B Y, Appelboom G, et al. Brain-computer interfaces: military, neurosurgical, and ethical perspective[J]. Neurosurgical Focus, 2010, 28(5): E25.
[3] 融合人脑智能与人工智能：脑机接口开启“黑科技”新风口[EB/OL]. (2017-8-23)[2018-9-15]. http://www.sohu. com/a/166725906_373105.
[4] 意念打字、皮肤有听觉，这不是科幻小说，而是Facebook神秘部门的黑科技[EB/OL]. (2017-4-20)[2018-9-15]. http://www.sohu.com/a/135512449_354973.
[5] 占领手机还不够，ARM 想把芯片植入你的大脑[EB/OL]. (2017-11-24)[2018-12-1]. https://yuedu.baidu. com/hybrid/column/572f6c887e192279168884868762caa- edd33bad4.
[6] 脑科学，探索“小宇宙”的奥秘[EB/OL]. (2013-6-14) [2018-9-15]. http://scitech.people.com.cn/n/2013/0614/c1007- 21838385.html.
[7] 李佩瑄, 薛 贵. 脑机接口的伦理问题及对策[J]. 科技导报, 2018, 36(12): 38-45.
[8] 晏 萍, 张 卫, 王 前. “负责任创新”的理论与实践述评[J]. 科学技术哲学研究, 2014, 31(2): 84-90.
[9] 赵延东, 廖 苗. 负责任研究与创新在中国[J]. 中国软科学, 2017(3): 37-46.
[10] Garden H, Bowman D M, Haesler S, et al. Neurotechnology and Society: Strengthening Responsible Innovation in Brain Science[J]. Neuron, 2016, 92(3): 642-646.
[11] Mccullagh P, Lightbody G, Zygierewicz J, et al. Ethical challenges associated with the development and deployment of brain computer interface technology[J]. Neuroethics, 2014, 7(2): 109-122.
[12] Aicardi C, Reinsborough M, Rose N. The integrated ethics and society programme of the Human Brain Project: Reflecting on an ongoing experience[J]. Journal of Responsible Innovation, 2018, 5(1): 13-37.
[13] Gardner J, Williams C. Responsible research and innovation: A manifesto for empirical ethics[J]. Clinical Ethics, 2015, 10(1-2): 5-12.
[14] 赵延东. 负责任的研究与创新（RRI）在中国[EB/OL]. (2017-02-09)[2018-9-15]. http://www.sohu.com/a/125872 468_ 466843.
[15] Velloso G T. Brain-computer interface (BCI): A methodological proposal to assess the impacts of medical applications in 2022[J]. Enterprise & Work Innovation Studies, 2012, 8(8): 57-81.
[16] Grimpe B, Hartswood M, Jirotka M. Towards a closer dialogue between policy and practice: Responsible design in HCI[C]// ACM Conference on Human Factors in Computing Systems. ACM, 2014: 2965-2974.
[17] Demers-Payette O, Lehoux P, Daudelin G. Responsible research and innovation: a productive model for the future of medical innovation[J]. Journal of Responsible Innovation, 2016, 3(3): 188-208.
[18] 马斯克的下一个大目标：脑机接口技术和人脑增强，然而伦理争议已经浮现[EB/OL]. (2018-12-26) [2019-01-04]. http://www.360doc.com/content/18/0104/06/29322182_ 718 879434.shtml.
[19] Shelley-Egana C, Hanssen A B, Landeweerd L, et al. Responsible Research and Innovation in the context of human cognitive enhancement: Some essential features[J]. Journal of Responsible Innovation, 2017, 5(17): 1-21.
[20] Haselager P, Vlek R, Hill J, et al. A note on ethical aspects of BCI[J]. Neural Networks, 2009, 22(9): 1352-1357.
[21] Shanawani H, Wenrich M D, Tonelli M R, et al. Meeting physicians’ responsibilities in providing end-of-life care[J]. Chest, 2008, 133(3): 775-786.
[22] Nijboer F, Clausen J, Allison B Z, et al. The Asilomar Survey: Stakeholders’ Opinions on Ethical Issues Related to Brain-Computer Interfacing[J]. Neuroethics, 2013, 6(3): 541-578.
[23] McGurrin P, Frow E K. Governing citizen use of brain stimulation technologies: What role for scientists? Journal of Responsible Innovation, 2018, 5(1): 117-121.
[24] Nijboer F, Allison B Z, Dunne S, et al. A preliminary survey on the perception of marketability of brain-computer interfaces (BCI) and initial development of a repository of BCI companies[J]. Journal of Technology Management in China, 2011: 1-4.
[25] Van Erp J, Lotte F, Tangermann M. Brain-Computer Interfaces: Beyond Medical Applications[J]. Computer, 2012, 45(4): 26-34.
[26] Nijboer F. Technology transfer of brain-computer interfaces as assistive technology: Barriers and opportunities[J]. Annals of Physical & Rehabilitation Medicine, 2015, 58(1): 35-38.
[27] Carmichael C, Carmichael P. BNCI systems as a potential assistive technology: Ethical issues and participatory research in the BrainAble Project[J]. Disability and Rehabilitation: Assistive Technology, 2014, 9(1): 41-47.
[28] Spinuzzi C. The methodology of participatory design[J]. Technical Communication, 2005, 52(2): 163-174.
[29] Schicktanz S, Amelung T, Rieger J W. Qualitative assessment of patients’ attitudes and expectations toward BCIs and implications for future technology development[J]. Frontiers in Systems Neuroscience, 2015, 9: 64.
[30] Sullivan L S, Klein E, Brown T, et al. Keeping disability in mind: A case study in implantable brain–computer interface research[J]. Science and Engineering Ethics, 2018, 24(2): 479-504.
[31] Smith C D. The electric brain: Do-it-yourself healthcare with transcranial direct current stimulation[J]. Journal of Responsible Innovation, 2018, 5(1): 86-97.
[32] Jebari K, Hansson S O. European public deliberation on brain machine interface technology: Five convergence seminars[J]. Science & Engineering Ethics, 2013, 19(3): 1071-1086.
[33] Garreu J M, Bird S J. Ethical issues in communicating science[J]. Science & Engineering Ethics, 2000, 6(4): 435-442.
[34] Marije D J I, Frank K, Marlous A, et al. Responsible reporting: Neuroimaging news in the age of responsible research and innovation[J]. Science & Engineering Ethics, 2016, 22(4): 1107-1130.
[35] Brunner C, Birbaumer N, Blankertz B, et al. BNCI Horizon 2020: towards a roadmap for the BCI community[J]. Brain-Computer Interfaces, 2015, 2(1): 1-10.
[36] 鲁白. 从“BAM”到“BRAIN”：美国“脑计划”借鉴 [EB/OL]. (2017-03-20)[2019-1-15]. https://mp.weixin.qq. com/s?__biz=MzIyNDA2NTI4Mg%3D%3D&idx=1&mid=2655413717&sn=6d8ea31a7f8128e50fdbd0cf719d2481
[37] Nowak R, Paton E. SWOT analysis of The Brain Dialogue, an Australian prototype responsible research and innovation engagement program for neuroscience[J]. Journal of Responsible Innovation, 2017, 5(1): 1-12.
[38] Ramos K M, Rommelfanger K S, Greely H T, et al. Neuroethics and the NIH BRAIN Initiative[J]. Journal of Responsible Innovation, 2018, 5(1): 122-130.
[39] 宁晓路, 曹永福, 张 颖, 等. 脑机接口技术应用的伦理问题分析[J]. 医学与哲学, 2018, 39(9A): 35-44.
Research Progress in Responsible Innovation of Brain-Computer Interface
Chen Lina, Wang Dazhou
(School of Humanities,Chinese Academy of Sciences University,Beijing100049,China)
Abstract: As a representative technology in the era of artificial intelligence 2.0, the research and innovation in the brain-computer interface involve many ethical, legal, and social issues. In recent years, it has become highly significant to ensure that the brain-computer interface innovation is on a responsible track. This paper summarizes the research progress of the brain-computer interface responsible innovation from the following aspects: first, the principle and implementation framework of the brain-computer interface responsible innovation; second, the role of the scientists, organizations, and users in the responsible innovation process; and third, the role of public participation, media responsibility, and government orientation. Based on this research, the paper discusses some related issues that need further study.
Key Words:brain-computer interface; responsible innovation; stakeholders; ethical issues
收稿日期:2019–05–15;
修回日期:2019–07–12
作者简介:陈丽娜（1993–），女，硕士研究生，研究方向：科技伦理。E-mail：cln0903@163.com
王大洲（1967–），男，博士，教授，研究方向：技术与工程哲学。E-mail：dzwang@ucas.ac.cn
任务结束后，由于他的表现突出，获得到航空部门、师农业科领导的认可。回单位五天后，他接到上级通知，担任六连连长一职。从此又开始了新的历史征程。
中图分类号:B82
文献标识码:A
文章编号:1674-4969(2019)04-0390-10
DOI:10.3724/SP.J.1224.2019.00390
标签：接口论文; 负责任论文; 技术论文; 用户论文; 伦理论文; 哲学论文; 宗教论文; 伦理学(道德哲学)论文; 《工程研究-跨学科视野中的工程》2019年第4期论文; 中国科学院大学人文学院论文;