■本报记者姜伟

大家都有过这样的经历:打开手机回复消息或者打电话，看到微信图标右上方的小红点，忍不住先打开微信；看完微信，不知不觉就被另一个App拖住了，直到关掉手机屏幕，才发现忘记了打开手机的初衷。

你认为这是健忘？不要！智能手机的每一个App背后的算法，不仅有人工智能领域的专家设计，还有心理学和脑科学的专家“精心设计”，让你不知不觉“沉浸其中”。

超级人工智能与人类的博弈是科幻小说中永恒的主题。现在，这个游戏可能已经嵌入了人们的日常生活。

如今，越来越多的学者开始讨论一个热门话题:当算法与心理学、脑科学等与人类认知相关的科学结合越来越紧密时，算法是否会主宰我们的生活？人类会成为算法的“奴隶”吗？

虽然不同学科的专家对此有不同的看法，但大家都达成了共识:学会与机器正确相处是每个生活在智能时代的人的生存技能，其重要性不言而喻。

人们的注意力正在成为“精心设计”的对象

前几天，一部关于社交媒体成瘾的纪录片《社交困境》引起了很多人的关注。纪录片中的主角都是曾经在硅谷等知名互联网公司工作过的人。他们承认，当他们开始意识到，随着算法的升级，尤其是算法与心理学、脑科学的融合，逐渐占据人类越来越多的注意力时，他们自己也觉得逃不过算法的“控制”。

事实上，打开手机、点击App或滑动拇指，不仅是很多人的习惯，也是肌肉记忆甚至是本能。而这背后，是不是也有一只“看不见的手”在操纵它？

“随着人工智能的发展，机器导致的成瘾越来越普遍。”上海交通大学心理与行为科学研究所执行所长李维东表示，与药物成瘾会给脑细胞水平带来不可逆的变化不同，电子产品或社交软件成瘾对大脑机制的影响尚不十分清楚。但可以确定的是，随着算法和人工智能的发展，这种“上瘾”的可能性更大，影响也更大。

要知道，在互联网时代到来之前，人类所有的发明都是建立在人类积极利用的基础上的，这样一个新的发明才能服务于人类。然而如今，技术无时无刻不在试图吸引人们的注意力，甚至希望“操纵”人们的想法并从中获利。正如《社交困境》中提到的，“所有的产品都是为了盈利，但是当这些产品是免费的时候，那么你就是一个产品。”

对于互联网公司来说，人们的注意力正在成为“精心设计”的对象——用户的增长，用户使用时间的延长，甚至对用户想法的操控，都可以带来更多的利润。用户是可以“独立成长”的产品。

的确，很多人发现，信息推送不仅越来越精准，而且很多推送都是基于个人喜好，通过算法计算出来的。有时候，这些推送并不是基于事实，夹杂着偏激甚至错误的观点，只是为了迎合用户。随着个人喜好在这些推送消息中不断强化，大家基于这些推送消息“看到”的世界也就不一样了。

在算法“包围”中，人会越来越焦虑，越来越脆弱？

当算法越来越准确地预测人类的爱好和行为时，越来越多的成年人或未成年人可能会在融合心理学和脑科学的算法的“包围”中变得越来越焦虑和脆弱。学会与机器相处，应该是每个人面对未来必须储备的能力。

任教于同济大学的刘翠连有着多年的心理咨询经验。据她观察，00后、10后这一代人是在现实世界和虚拟世界同时存在的平行世界中长大的。他们已经习惯了网络上的日常社交，包括点赞和评论。但其实不管是赞还是评论，这些社交界面的功能开发也是根据心理学原理精心设计的。对于未成年人来说，短期的反馈很容易获得短期的满足感，而且会让他们不断追求这样的满足感。但这种“诱导”机制也可能是他们心理压力的来源。

“人和任何技术或机器都是有交互的，要么人控制机器，要么人被机器控制。”nyu shanghai张峥教授始终认为，技术是中性的，就像在使用搜索引擎的时候，你每搜索一个词，就必须根据你的习惯和喜好，精心裁剪推送给你的第一页前10名的结果，让你喜欢这个搜索结果，继续使用这个搜索引擎。“从好的方面来说，这样的设计是为了提高用户粘性；最坏的情况，也可以理解为，通过强化你的偏好，更容易‘操纵’你。”

更多的科学研究应该关注人与机器的互动。

与人工智能技术的发展速度相比，人工智能伦理的研究是落后的。多位学者在接受记者采访时都表示，当前人工智能的发展使得人与机器的关系越来越复杂，人工智能的安全性、可靠性、可信度，以及如何符合人类的价值观，都产生了许多新的科学问题值得探索。

不久前，浙江大学心理科学研究中心和心理学系的三位学者联合发表了一篇文章，提出“人-AI交互”必须是一个新的研究领域，勾画了具体的研究框架，倡导跨学科合作，目标是确保人工智能造福人类。

有几位学者说过，人工智能技术发展不当，导致了很多伤害人类的事故。仅在学术界公认的“AI事故数据库”中，就记录了超过1000起事故，比如自动驾驶汽车撞死行人、交易算法错误导致市场“闪崩”等等。考虑人工智能的价值观并不算早，其必要性和紧迫性日益凸显。

有学者称，心理学本身就是一门关注人的学科。从学科发展来看，未来心理学不仅要更加关注人本身，还要关注人如何与机器打交道。作为心理学的一个分支，目前国内有工程心理学。这门学科的核心科学问题是研究在开发复杂系统时，如何保证技术与人的心理和生理规律相匹配，使人能够理解和操作，使整个人机系统的效率达到最佳状态。

复旦大学计算机教授张军平也认为，技术有其自身的发展逻辑，但当技术、心理学、脑科学的融合越来越紧密时，确实需要加强对人与技术相互作用的研究，更加客观审慎地对待技术。

来源:文汇报