人工智能技术嵌入思想政治教育的隐私风险与防范

刘佳星 王 玥 祝大勇

习近平总书记指出：“中国高度重视人工智能技术对教育的深刻影响，积极推动人工智能和教育深度融合，充分发挥人工智能优势，加快发展伴随每个人一生的教育、平等面向每个人的教育、适合每个人的教育、更加开放灵活的教育。”[1]当今世界科学技术加速发展，人工智能以增强人类认识与改造世界能力的生命样态而存在。思想政治教育在人工智能时代实现转型创新，必然要主动契合这一智慧生态语境的现实变化，“借助人工智能的赋能，实现价值引领和人的发展。”[2]众所周知，人工智能技术的基础是大数据，人工智能凭借其强大的计算能力可以精准、即时地实现海量数据的分析，辨析每个数据的价值，助力实现精准化的思想政治教育价值，但采集、分析和运用海量数据，很容易对个人隐私权构成侵犯，背离思想政治教育在场的价值初衷。总而言之，人工智能技术嵌入思想政治教育所引发的数据隐私风险问题集中体现了人工智能技术在应用于思想政治教育方式方法与目标效用上的错位，如果不能及时地加以防范和引导，放任其发展，必然会制约思想政治教育价值的实现。

“共产党员如果想做宣传，就要看对象。”[3]想要提升思想政治教育效果，必须对受教育者进行精准的识别分类和认知把握，但思想政治教育具有特殊性和复杂性，传统的思想政治教育通常以场域、年龄、专业为标准来区分教育对象，不能准确匹配思想政治教育的复杂性[4]。思想政治教育实现精细化育人就有必要应用人工智能技术，需要识别作为用户的受教育者身份，收集其信息并实时记录其行为，这意味着受教育者浏览的网页、关注的内容、购买的商品等隐私内容有可能会被分析记录，成为教育者掌握的大数据信息，这就有可能影响个人隐私权，引发隐私意外泄露、个人信息被非法盗取等问题，导致受教育者消极心理感受，降低思想政治教育过程运行质量，妨碍育人效果的实现。

(一)个人隐私信息在未知情状态下被过度收集带来思想政治教育主客体信任关系的松动

随着信息技术的加速发展，数据逐渐演变为思想政治教育过程中联结教育者和受教育者的重要中介。部分数据因承载个人重要身份信息而与人格尊严密切相关，建立尊重个人隐私数据基础上的相互信任显得格外重要。数据可以帮助教育者更好地教育引导受教育者，因此受教育者愿意提供必要的身份信息以获取更多成长机会，但可能会出现受教育者信息数据被过度采集的问题。例如在高校智慧思政教室，人工智能可以全过程无死角地监测受教育者的学习，教育对象每个细微的情绪、动作、表情都会被捕捉记录，储存为新的数据并与现存数据进行对比分析，受教育者在不知情的情况下被收集个人信息，也不了解这些信息的去向、用途。比如在借助智能平台开展思想政治教育活动时，智能平台和应用程序通常会要求受教育者进行“注册”“登录”操作，受教育者需要进行人脸识别、语音识别、指纹验证或输入手机验证码等数据录入，才能完成用户身份识别。在此过程中一些与实现教育目标关联性并不紧密的信息，如手机号码、通信录、短信记录、消费记录、网络浏览历史、绑定的社交媒体账户、活动轨迹、所在位置等信息会被智能系统收集，尽管一些智能平台在登录时会提示所需权限，但是就用户而言，人工智能就像一个黑箱，用户同意授权给智能信息收集系统，就等同于把自家大门的钥匙上交，这使得智能信息系统具有了自由获取用户隐私信息的权限[5]。“人工智能具有自主学习自我完善的技术特色，可以通过算法将看似杂乱无章的数据进行整合分析，从中筛选出受教育者隐私数据，生成个人‘数据画像’。”[6]但如果受教育个人在不自知的情况下被过度收集信息以至于有滥用之可能，会造成思想政治教育发生效用的信任基础发生断裂，出现信息和情感互动的中断、过滤、屏蔽等状况，影响后续线上乃至线下思想政治教育的效果。

(二)隐私数据所有权和使用权归属模糊，未经允许用于商业用途导致育人公益属性的偏离

思想政治教育就其本质而言，具有强烈的政治性、思想性和社会性，不能受到丝毫资本增殖逻辑宰制，一旦被资本逻辑侵入，就会丧失其育人价值本质。思想政治教育者承担着妥善保管受教育者个人信息的义务，不能用于任何商业用途。但是随着智能平台、互动程序、“学习APP”、虚拟现实等人工智能技术应用于思想政治教育领域，现实情况是部分思想政治教育智能系统的研发、运行和维护都是外包给第三方商业公司进行的，受教育者的数据通常都是以第三方云端的形式进行储存，这些包含个人特征分析的隐私数据具有极高的商业价值，如可以出卖给广告商进行个性化的广告推送，在此过程中存在数据所有权和使用权转移和责任不清的问题，从而使个人隐私数据有未经允许而被商业应用之可能。资本的逐利性加之缺乏数据所有和使用的明确归属易致使受教育者的隐私遭泄漏和非法商业使用，云端数据安全面临新的隐患，例如“高校两万名学生信息遭泄露”[7]等事件。一旦这些涉及受教育者隐私的数据信息遭到泄露或盗取，将会引发严重的信息安全、财产安全和其他相关安全的问题[8]。发生数据泄漏将会长时间地影响受教育者，更何况隐私数据流入非法市场，借助人工智能技术，教育对象的数据还会经过多次重新挖掘和分析，导致二次侵权和伤害。受委托完成特定功能而进行数据采集和分析的商业公司在进行数据运营时，往往为了压缩成本，会放松监管，降低数据保护的安全标准，致使云端数据易遭黑客攻击盗取。尽管当今可以基本实现对个人数据的匿名化处理，使得无法识别出生成数据的原始自然人，但是这种匿名化的处理并非一劳永逸、绝对安全。随着技术的迭代升级，传统的匿名化保护技术已经失效，人们可以通过去匿名化的技术手段，恢复被删除的诸如姓名、身份证号等个人信息进而应用于商业用途。思想政治教育具有突出的社会属性、阶级属性，同时也具有突出的非盈利的公益属性，完全不以经济利润为目的，但一旦出现上述情况，就会偏离立德树人的根本目标，背离思想政治教育的价值本质。

(三)恶意侵权行为隐蔽，侵权追责和补偿难度大引发思想政治教育生态的运行风险

与现实生活中对隐私侵权行为的认定相比，运用人工智能技术实施隐私侵权行为更加隐蔽和不易察觉。侵权行为主要发生在教育主客体双方进行单次互动交流过程之后，受教育者主动或被动向智能平台和智能系统上传个人信息，在此过程中个人信息的储存、处理、分析、共享脱离受教育者本人的授权和监督，教育者或者第三方应用平台心中稍有歪念，就会造成侵权伤害，而且非常隐蔽难于发现，难以界定侵权主体和责任方，追责和举证会变得非常困难，当受教育者提出维权诉求时，很难获得法律支持，同时因为缺少人工智能侵权补偿救济制度，侵权损失难以挽回。比如一些涉及受教育者个人隐私和敏感的信息如家庭背景、心理状况、生理缺陷等被采集后会加剧受教育者的心理负担，这些个人敏感信息经由人工智能的分析处理，将最终呈现在思政工作者的面前，必然涉及对受教育者隐私的侵犯，甚至还可能会在无意中形成对部分群体的偏见。再比如，算法和大数据等技术可以实现对受教育者进行精准的分类和“群体画像”，这些“群体画像”的特征被别有用心的组织和个人掌握，通过精准推送施加影响，部分群体易受暗示，变得极端、冲动，滋生群体性事件，造成极其恶劣的社会负面影响，进而“恶化思想政治教育的生态”[9]，如果不及时妥善处理，可能会导致事态扩大，影响政府威信，制约思想政治教育目标的实现，甚至起到反面效果。

2020年“二十款教育类APP泄露个人信息”和2021年“两万名高校学生信息遭泄露”的新闻引发了社会对人工智能技术侵犯隐私问题的广泛担忧。目前，在将人工智能技术和思想政治教育相结合的过程中，隐私风险问题的主要症结在于缺乏对人工智能技术应用边界的明确界定、数据信息采集能力与个体防护能力不对等以及缺少配套的人工智能信息保护问责机制法规等。

(一)边界不清：人工智能技术嵌入思想政治教育领域的适用性问题

借助人工智能先进技术更好展开思想政治教育的前提是，将包含个人隐私的相关数据信息变为借助人工智能工具开展精准思政所必要的“数据原料”，这种数据采集分析使个人信息原本的“隐私性”“自决性”特点转变为“社会性”和“公共性”特点。思想政治教育是遵照一定的政治和道德要求对受教育者进行教育的活动，具有很强的政治性和阶级属性，涉及重要的价值判断，然而人工智能本身并不涉及道德的考量和选择，它只会把涉及道德伦理和法律的问题程序化、简单化为结构化的算法技术问题，这种算法规则决定了何种关系、判断和存在物会被排除在数据结构之外，何种关系、判断和存在物能够被储存和分析[10]。由于人工智能天生具有功利性的特点，其会自动地倾向于应用最简单且能实现利益最大化的既定程序[11]。正是由于人工智能技术本身不具有立场分析和价值判断能力，只能按预设程序执行，其自身灵活性不足以匹配复杂且漫长的收集与分析受教育者个人数据的全过程，所以人工智能技术应用于思想政治教育领域就具有先天的灵活性不足问题。这种技术局限使得其在辨析隐私数据，确定信息收集边界显得无能为力。可见，人工智能技术进行的数据收集是沿着人类预先设计的一套算法和程序进行的，如果人工智能遇到了预设程序范围之外的问题，无法通过自身算法来解决时，就会选择把抉择权交给智能平台的运营第三方，后者出于本能追逐商业利益，倾向于“一切以利润为导向”，将数据进行资本化和市场化操作使用。

(二)实力悬殊：人工智能强大数据处置能力的绝对强势问题

作为人类的创造物，人工智能没有作为人的高级情感，却具有强大的数据处置能力，其设计理念就是为了更加便捷的收集和处理数据。相对于其强大的数据处置能力，人工智能技术收集个人信息过程中受到的外在规制却严重不足，缺乏对隐私风险防范的提前介入。数据分析结果成为关注的焦点，而信息采集的过程则容易被忽视，侵权行为无法及时得到遏制。当前我国尚未形成完善的人工智能行业数据采集和隐私权保护自律监督机制，与人工智能强大的数据收集和分析能力相比，受教育者很难依靠个人的能力来维护自身隐私权。随着人工智能在思想政治教育中的应用越来越广泛，个人数据信息保护的主体责任以及体制机制不健全的问题愈发凸显，追责补偿机制亟待完善。如果在思想政治教育过程中发生了严重的大规模隐私泄露事件，那谁应该为这些事故承担责任？如果事先没有明确划分责任主体，那么潜在责任方就很可能会相互推卸责任而均受影响，思想政治教育者的公信力会大大折扣，维护人工智能应用的第三方运营平台有可能会被完全弃用，受教育者人工智能技术素养欠缺，有效保护个人隐私的实际方法不足，缺乏在人工智能时代更好地保护自己隐私的意识和能力，在隐私遭到侵犯后，也不知道如何进行补救和追偿，最终导致的结果是既无法实现人工智能技术的完美嵌入，又影响思想政治教育精细化育人效果。

(三)法规缺位：数据隐私保护立法的滞后性问题

如同蒸汽时代的蒸汽机、电气时代的发电机、信息时代的计算机和互联网等相关技术，如今人类进入智能时代的推动性力量就是人工智能技术。但相对于技术的快速迅猛发展，涉及个人隐私保护立法却存在滞后性问题。按照传统法学理论，隐私权被定性为私权属性。虽然《民法典》《个人信息保护法》对个人信息保护与隐私权保护进行了详细界定，但在现实生活中个人的私密信息与法规所保护的私密信息还是略有不同，隐私保护面临的新问题就是如何鉴别这类私密信息。人工智能侵权形式多样且复杂，目前在法律层面上暂未有一个实用的隐私概念来保护人工智能时代人们的隐私，造成现实情况是目前得到规制的只有部分显而易见隐私侵权行为。“显然现行律关于隐私界定的局限会导致个人隐私权保护的不足。”[12]当前各个企业均有自己对隐私的界定和划分，不同企业拥有不同的隐私服务协议，但是对比不同企业的隐私政策，就会发现这些企业表面程序上遵循了相关政策法律，也提前获取了用户的授权同意，但是这种知情同意是用户为了使用软件而被迫的“同意”，代价就是“用户在程序上宣布同意放弃自己的‘隐私’”。此种情况下企业的用户协议和所谓的用户知情同意则完全沦为摆设，没有对用户起到相应的保护作用，反而成为“企业在法律层面获取的‘免罪金牌’。在知情同意和用户协议的保护下企业可以开脱甚至掩盖自身的一些操作和行为，由此可以看出在合乎法律规范的背后实则存在许多隐秘的操作”[13]。将智能APP应用在思想政治教育活动中同样面临这种尴尬，受教育者能否真正行使知情权，个人隐私数据能否真正获得合理规范地应用，都暂时缺乏清晰明确的共识和约定。

“思想政治教育就是不断提高受教育者思想、政治、道德素质和促进全面发展的过程。”[14]在这一过程中更好地保障受教育者隐私，更好地实现思想政治教育的育人目标，需要从多方面多角度寻求应对策略、探究治理路径。

(一)加强人工智能技术创新，用主流价值观引领人工智能技术发展

在人工智能背景下更好地保护受教育者的隐私权，首先是离不开人工智能技术本身的创新发展，特别是研发过程中嵌入主流价值，体现尊重隐私的人文情怀。开发设计适应人工智能嵌入思想政治教育所必需的个人信息匿名化处理技术，研发个人隐私信息保护技术。借助区块链、“NFT”(即Non Fungible Token，非同质化代币，可以买卖的数字资产唯一加密货币令牌，会匹配个人信息，相当于数字身份证)等技术对数据收集者进行溯源、身份信息认证，明确数据责任主体。运用信息安全技术保护个人隐私，通过完善技术来规避数据收集、分析、储存过程中的系统漏洞。其次是应设计开发用以监督隐私侵权数据收集行为的人工智能监督技术，用人工智能技术来监督人工智能技术。设计研发数据泄漏被盗风险的事前研判预警机制，及时发布侵权预警信息，定期对人工智能平台漏洞风险进行自查自纠，创设隐私信息应用动态监管制度，将侵权发生概率降到最低，促使相关行业良性发展。优化思想政治教育过程中信息收集流程，针对性优化算法增强人工智能的能力，在不影响思想政治教育效果的前提下减少对信息的收集。再次是应该对受教育者的部分隐私数据，如家庭背景、生理缺陷等进行安全分级，对敏感度高的信息进行更高程度的加密保护，防止隐私信息泄露造成“数据灾难”。最后是应当加强价值引领，以思想政治教育主流价值驾驭人工智能。必须坚持以人为本、技术为用的理念，既不能为了追求技术优势而忽视对个人隐私的保护，也不能因为强调保护个人的隐私而放弃人工智能技术的应用，把握好“工具理性”与“价值理性”之间的度，避免人工智能技术侵犯隐私造成对受教育者的负面影响。要以社会主义核心价值观引领人工智能技术创新，这需要在人工智能设计、开发、应用和监管的全过程中嵌入和体现主流价值观，摒弃其天然的逐利性，坚守服务于思想政治教育的初心和使命。

(二)提升教育主客体人工智能素养，发挥好思想政治教育工作者“把关人”作用

首先，应充分发扬人文精神，发挥人的作用。人工智能是由人类所创造的，在其融入思想政治教育的过程中必须把人放在核心位置，给予受教育者情感关怀，人与人之间交流反馈的“感性温度”是人工智能所不具备的。我们必须合理利用人工智能的技术优势，围绕立德树人根本任务，不能本末倒置。其次，弥补人工智能技术存在的天然缺陷，需要思想政治教育者具备强烈的使命感和责任感。人工智能借助对受教育者的个人信息数据的挖掘分析来掌握人们的思想动态。而人的思想发展具有复杂性，这就迫使人工智能为了实现预设教育目标不得不扩大数据收集范围。这就需要思想政治教育者扮演好“把关人”的角色，对人工智能侵犯隐私的行为及时进行干预和纠正，守好信息收集的“大门”。再次，应建设专业化的隐私信息审核团队，加强对思想政治教育过程中隐私信息的审核，确定合理的信息采集范围，及时调整信息采集程序，与全社会共建隐私信息保护平台，加强对人工智能的管理和控制。思想政治教育者作为“把关人”必须对思想政治教育过程中的隐私信息风险做出预测和判断，及时对系统漏洞和信息泄漏做出反应和处理。最后，加强人工智能素养教育，提升受教育者在人工智能时代的信息保护意识，对于人工智能潜在的侵权行为保持警惕，经常关注自己个人信息的使用情况和流向，确保受教育者在保护个人隐私的前提下又能享受到人工智能的便利。培育受教育者的维权意识，建设便捷高效的维权渠道，让受教育者学会主动运用法律武器在隐私权遭到侵犯后积极地捍卫自己的合法权益，提升受众价值判断力和自主学习能力，提高运用人工智能的媒介素养。

(三)健全隐私保护法律法规，用完善的制度规范保障受教育者隐私权

2017年国务院发布《新一代人工智能发展规划》，提出“加强前瞻预防与约束性引导，最大限度降低风险，确保人工智能安全、可控发展”[15]。为此，要以法律规范算法数据的使用，必须将隐私数据排除在算法“数据池”之外。首先，制定和完善人工智能方面的法律法规，通过法律手段解决隐私侵权问题，要通过立法对人工智能平台进行规范，以制度保障受教育者的隐私权。同时要强化人工智能法律制度的贯彻落实，加大对侵犯隐私的惩罚力度，对可能侵犯受教育者隐私权的操作进行拦截，阻止其进入后台数据库，实现治标与治本相结合。其次，建立健全人工智能管理的行业标准，思政教育工作者应与相关高校、科研单位、社会组织共同探讨，建立隐私侵权行为常态化管理机制，制定行业内部信息收集原则和行业自律标准，明确受教育者个人大数据采集、利用权限和信息保密义务，为人工智能在思想政治教育中的数据采集行为划定界线。例如，明确规定在何种情况下，思政工作者有权获取教育对象的某类特定信息。建立问询追责制度，落实权利主体，对收集、处理学生数据企业和个人划定明确的责任和权利范围，规范化制度化信息处理的每一环节，对侵犯个人隐私和泄漏个人信息的行为追责到底，给予现行相关法律法规制度下更为严厉的处罚，使违法违规的相关企业和个人不敢再犯。最后，完善受教育者信息保护机制，对涉及个人身份、特殊经历等隐私信息加密匿名化存储，使任何主体使用受教育者隐私数据的全流程都做到公开透明，确保信息可追溯，必须保障受教育者的同意知情权，要以简洁明了的方式告知用户平台的隐私条款和信息采集项，让用户真正有权删除、修改自己的个人信息，在解绑平台后，要在云端删除用户的个人信息数据，最大限度保障个人隐私和数据信息安全。

总之，人工智能是时代发展的大势所趋，应高度重视人工智能与思想政治教育的融合创新。应用人工智能技术却拒绝分享任何个人数据无异于因噎废食、剖腹藏珠，因此，在充分保障个人隐私权利不受侵犯的前提下，对数据进行合理规范的开发与利用，是利用人工智能提升思想政治教育效果的关键所在。

猜你喜欢受教育者个人信息人工智能如何保护劳动者的个人信息？工会博览(2022年16期)2022-07-16个人信息保护进入“法时代”今日农业(2022年1期)2022-06-01少数民族地区初中数学学习弱势学生的成因分析及转化对策的研究读与写(2020年19期)2020-11-25浅谈初中语文“三段六步”教学法的策略读与写(2020年14期)2020-11-25如何培养低年级学生学习科学的兴趣读与写(2019年28期)2019-11-27警惕个人信息泄露绿色中国(2019年14期)2019-11-26小学语文教学中如何激发学生的写作兴趣小学时代(2019年12期)2019-01-112019：人工智能商界(2019年12期)2019-01-03人工智能与就业IT经理世界(2018年20期)2018-10-24数读人工智能小康(2017年16期)2017-06-07