（原标题：信通院蓝皮书：AI心扉奉陪易让东说念主产生心扉依赖 侵蚀东说念主类自主性）

21世纪经济报说念记者 王俊 实习生 崔嘉豪 北京报说念

东说念主工智能快速发展，正在引颈新一轮科技创新和产业变革，在带来发展红利的同期也带来风险挑战。

近日，中国信通院发布《东说念主工智能贬责蓝皮书（2024年）》（下称蓝皮书），其中指出，2024年前三季度东说念主工智能领域融资得到复苏，大家AI融资占全行业融资比例捏续上涨，从2022年的6.1%上涨至2024年前三季度的12.0%。

跟着东说念主工智能时刻和行业发展，繁衍风险相伴。

蓝皮书从新时刻创新激勉的经济社会发展变革和历史教学开赴，在“以东说念主为本、智能向善”理念指引下，基于供应链条、价值链条、全人命周期链条等底层逻辑，从 What、Why、Who、How 四个维度搭建了东说念主工智能贬责体系框架。

蓝皮书指出，大家层面东说念主工智能时刻发展抵御衡问题日益凸起，主要资源向少数国度王人集。东说念主工智能日益提高的心扉奉陪材干易于让东说念主产生心扉依赖，这可能导致伦理危害。新一轮东说念主工智能替代管事的材干、影响范围等都有了强大提高，东说念主工智能替代效应将主要冲击中高端收入群体。

2024年前三季度大家东说念主工智能领域融资复苏

蓝皮书指出，大模子等新时刻带动大家东说念主工智能行业兑现高速增长，2024年，大家东说念主工智能行业在产业范畴、企业财务阐扬、投融资金额以及企业数目几个方面都兑现了增长，尤其值得一提的是，固然2022-2024年前三季度，大家投资捏续低迷，融资金额捏续下跌，但比较较而言，2024年前三季度东说念主工智能领域融资却得到复苏，大家AI融资占全行业融资比例捏续上涨，从2022年的6.1%上涨至2024年前三季度的12.0%。

同期，东说念主工智能时刻创新需求捏续加大，产业链条拉长、贸易生态分化等特征骄傲。自2022年11月ChatGPT发布以来，东说念主工智能已被应用于金融、法律、设想等多个行业。东说念主工智能产业链条从大多数情况下由单一企业完成，发展为在开导、调优、应用等不同方法，由不同企业配合完成。围绕生态主企业构建的贸易生态运转出现分化，开源与闭源、通用与专用等不同阶梯均呈现竞争与会通并存态势。

蓝皮书还指出，以智能算法、智高手机等为代表的智能序论时刻以及各式AIGC的履行坐蓐相貌在当下阶段导致了全标的的“智能范围”。其强调，大家层面东说念主工智能时刻发展抵御衡问题日益凸起，主要资源向少数国度王人集。

比较于“朔方国度”，“南边国度”在数字基础设施建造方面就存在显耀不及。证明datacentermap统计，2024年好意思国领有2626个数据中心，占据显耀上风。比较之下，印度、中国、巴西等国数据中心数目仅数百个，突显南边国度在数字基础设施建造上的不及。同期，大家顶级超等策动机多王人集在好意思国、日本和中国，南边国度占比偏低，进一步加重了策动资源的王人集。

除了基础设施，南边国度在数据得回方面处于时弊，语料代表性也存有不及。在绝顶数据方面，大家医疗保健数据集的一半以上王人集于北好意思地区，而非洲、拉丁好意思洲及亚太地区的发展中国度，在东说念主口普查数据、行政纪录数据与地舆空间数据的通达与分享方面明显滞后。据加利福尼亚大学的一项看管骄傲，高达50%的东说念主工智能教师数据源自12家顶尖机构，其中10家为好意思国机构所占据。

而在东说念主才方面，大家对东说念主工智能东说念主才需求郁勃导致发展中国度东说念主才外流问题严重。据MacroPolo《大家东说念主工智能东说念主才跟踪2.0》文牍骄傲，顶尖东说念主才王人集趋势明显，好意思国集聚了大家60%的顶尖AI机构，并迷惑77%非好意思国籍顶尖东说念主才留好意思责任。比较之下，印度仅留下五分之一的原土AI看管东说念主才。

AI心扉交互要挟东说念主际关系

东说念主形机器东说念主、数字东说念主等应用日益庸俗，举例行使东说念主工智能回生亲东说念主已变成产业链，大略模拟已故亲东说念主进行视频对话。东说念主工智能的扮装早已越过了肤浅的坐蓐力器用，其心扉奉陪材干兑现较大侵略。

蓝皮书指出，东说念主工智能的心理感知材干得到提高。OpenAI于2024年5月发布GPT-4o，该模子不错感知用户心理，举例从匆匆的喘息声中领会“垂死”的含义，并模拟心扉抒发，还具有一定幽默感。

将大模子镶嵌东说念主形机器东说念主，提高了东说念主工智能的心理具身投射材干，机器东说念主大略更好地领会脸色、话语、动作，并作出反应。李飞飞团队的放手将大模子接入服务机器东说念主“天轶”，使其大略察觉到东说念主类的心理变化。

除了感知和反应，东说念主工智能心扉磋议材干也得到提高。数字东说念主不错通过个性化互动提高东说念主机交互体验。举例，通过学惯用户的深嗜深嗜、偏好和心扉反应，从而提供个性化的互动体验。在抖音、哔哩哔哩、YouTube等国表里直播平台上，数字东说念主主播照旧迷惑了大量的粉丝原谅，具备了初步的互动材干涉心扉磋议。

东说念主工智能日益提高的心扉奉陪材干易于让东说念主产生心扉依赖，可能导致伦理危害。

蓝皮书合计，对东说念主工智能的心扉依赖将侵蚀东说念主类自主性。举例，东说念主工智能大模子存在“奉迎”问题，会握住相合用户的需乞降心扉，提供正面反馈并幸免负面评价。而简直的东说念主际往复中充满了各类性和复杂性，包括负面反馈和心扉贫瘠。这种反差可能使用户越来越依赖东说念主工智能，产生神色学上所称的心扉遁藏问题，侵蚀其自主性和安详性。

对东说念主工智能的心扉依赖还将影响亲密关系、冲击家庭结构，更正东说念主类社会模式。跟着东说念主与东说念主工智能的心扉互动达到一定比例，将使用户遁藏建立和保管婚配等亲密关系，家庭结构可能受到冲击，社会可能会缓缓失去各类性和复杂性，导致家庭结构和社会模式的剖释。

咱们真实作念好准备遴荐东说念主工智能动作“第三类家庭成员”存在了吗？

蓝皮书指出，部分企业在开导东说念主工智能居品时，运转探讨用户的心扉健康，探索建立防依赖、防千里迷的关连机制。举例，谷歌语音助手GoogleAssistant中包含心扉识别功能，大略证明用户的心理变化提供允洽的救援和忽视。微软小冰（Xiaoice）在设想时加入了时候经管和提示功能，证明用户与AI的互动频率和履行，对其神色健康状况进行评估，并在必要时发出警示。

学界等积极看管东说念主工智能对东说念主类心扉和酬酢活动的永久影响。举例，好意思国斯坦福大学建设了“东说念主工智能与伦理看管中心”，齐集了策动机科学家、神色学家和社会学家等多领域的大师，共同看管东说念主工智能对东说念主类心扉和酬酢活动的影响，为制定有用的过问措施提供科学依据。

东说念主工智能替代效应将主要冲击中高端收入群体

蓝皮书指出，东说念主工智能时刻带来的发展红利和大家性挑战同步骄傲，列国围绕东说念主工智能评估评测、常识产权、价值对王人等加快搭建执法体系，大家东说念主工智能贬责加快迈入执法建构和外洋配合的关节窗口。

管事家的责任不仅是其经济着手，更是个体在社会中定位和建立社会关系的关节。平静会影响个体的自我价值感、社会扮装和身份，缩短其在社会中的主体性。

与之前比较，新一轮东说念主工智能替代管事的材干、影响范围等都有了强大提高，需加以高度原谅。

蓝皮书指出，东说念主工智能替代效应将主要冲击中高端收入群体。据2024年6月媒体报说念，某科技公司在应用东说念主工智能时刻后，将庄重撰写博客著述和专栏的采编团队由蓝本的60东说念主范畴缩减到只剩1东说念主。OpenAI于2023年3月发表论文指出，数据处理、金融财会、出书传媒等行业是受影响最大的行业，制造业、农业、采矿业等受影响较小。

而固然可能受到影响的岗亭数目较多，但只消少数岗亭有被十足替代风险。高盛《东说念主工智能对经济增长的潜在强大影响》文牍，对好意思国900个行状和欧盟2000个行状的责任任务进行分析合计，东说念主工智能将十足替代好意思国7%的责任岗亭，并推动63%的岗亭向东说念主机协同的相貌回荡，同期瞻望欧盟也会产生访佛影响。外舶来品币基金组织在《东说念主工智能和管事宇宙的往时》中指出，东说念主工智能瞻望将对大家近40%的责任岗亭产生影响，在发达国度这一数字则为60%。东说念主工智能发展将对我国往时管事结构产生深入影响。麦肯锡预测跟着东说念主工智能的发展与应用，到2030年我国将有2.2亿劳能源需要进行技能升级或再培训，其中客户服务、后台救援、IT、创意及艺术经管等行状受到的影响最大。

但与此同期，东说念主工智能也将带来新的管事机遇。宇宙经济论坛发布《往时行状文牍》骄傲，50%的企业合计东说念主工智能时刻将增多责任岗亭，25%的企业合计将减少责任岗亭。

东说念主工智能的繁衍风险还包括给个东说念主阴事带来的挑战。东说念主工智能教师触及海量数据，用户交互数据等新模式应用进一步加重阴事泄露风险。如2023年3月，OpenAI开源代码库出现谬误，导致1.2%的ChatGPT付用度户的姓名、账户信息、聊天纪录等数据泄露。

大家东说念主工智能贬责加快迈入执法建构和外洋配合的关节窗口

蓝皮书指出，东说念主工智能时刻带来的发展红利和大家性挑战同步骄傲，列国围绕东说念主工智能评估评测、常识产权、价值对王人等加快搭建执法体系，大家东说念主工智能贬责加快迈入执法建构和外洋配合的关节窗口。

深化落地东说念主工智能协同敏捷贬责模式，均衡创新发展和风险贬责，捏续强化跨部门协同机制，建立健全多元敏捷互动机制，探索敏捷贬责理念，建立生动性、 全面性轨制框架，推动东说念主工智能高质料发展和高水祥瑞全兑现良性互动。

系统监测预警东说念主工智能伦理社会影响，科学设定监测盘算推算，加强前瞻预警，制定风险预案，政府需沟通公众提高智能素养，以为效交代具身智能、数字东说念主带来的心扉依赖等伦理挑战。

聚焦东说念主工智能场景应用细化轨制有盘算推算，当令推动立法进度，从产业发展、伦理引颈、底线红线等维度，明确轨制设施，以监管沙箱试点摸清场景应用特色风险，在要点场景下针对典型风险细化执法有盘算推算，建立完善东说念主工智能分级分类清单，遴荐先试点后实践的相貌深化细化现存轨制有盘算推算。

驻足时刻实践优化东说念主工智能监管器用，优化监管轨制器用以推动预先、事中、过后全历程监管，是强化东说念主工智能监管平台、时刻器用等资源配备，是引入社会化力量提高东说念主工智能评估服务水平，优化贬责技巧与材干，进一步更新丰富贬责器用箱。 

加快落地大家东说念主工智能材干建造有盘算推算，推动包容通达的东说念主工智能大家对话，是匡助后发国度更好得回和行使东说念主工智能时刻、居品和服务，推动东说念主工智能外洋测试评估配合。东说念主工智能贬责攸关全东说念主类气运，是宇宙列国濒临的共同课题，应积极参与并推动外洋配合贬责。

欧洲杯2024官网