人工智能时代看不见的危害

槟城消费人协会（CAP）提醒公众，人工智能（AI）已成为进步的强大工具，但也从养成依赖和引爆前所未有的诈骗，而存在不容忽视的风险。AI教父杰弗里·辛顿（Geoffrey Hinton）博士曾严厉警戒，在这些系统超过人类控制它的能力之前，必需立法和保持警惕。

过度依赖人工智能已成为日益加剧的危机。特别是在3个关键领域，就业和经济、社会关系和信任、以及心理操纵。

美国一名60岁男子在2025年初根据ChatGPT的建议将食盐换成溴化钠后，使用了3个月就出现幻觉，偏执，疲劳和皮疹，患上溴化物中毒（Bromism）入院接受治疗。这种在二十世纪初常见的疾病，现在已很少见了。

依赖人工智能最直接的风险是替代人力。取代数以百万计的工人，但工人却很难找到新的就业机会。这种情况会加深不平等，大企业大量投资AI机械和熟练工人，可能抬高失业率，低工资和扩大社会经济鸿沟。

人力资源部在2024年10月的报告指出，于2020年至2024年9月期间，马来西亚因自动化和人工智能失去约29万3639个工作岗位。主要出现在制造业、批发及零售业、专业及科学服务、资讯及通讯科技界。如果无法提高本身的技能，这些领域的工人可以轻易被取代而使失业率激增。

随着人们依赖算法来做决策，选看新闻，计划旅行，甚至管理财务。批判性思维，解决问题和判断等人类本有技能将会逐渐退化。AI助理或信息推荐系统，是在制造被动的信息消费群体，而不是主动和有辨别能力的人。

社会关系也将受到影响。AI伴侣和聊天机器人被哄抬为舒适和求伴的来源，但它可能会减少真正的人类互动。越有需要AI机械的冲动，就越有可能与家庭和社区断绝来往，而加剧社会分裂。一旦信贷机构的准批或招聘，都是由不透明的算法做的，不会负责任的算法，也可能会使到信贷机构失去信誉。

AI操纵行为的能力可能是最危险的。现代AI系统可以从大量的人类活动数据进行集中和学习，让它对偏好、情绪和透视弱点等有超强的能力。因此可以通过个性化广告、政治信息或有说服力的对话，巧妙的影响人们的选择。这些系统可以根据个人的心理特征调整反应，在人们在完全没有感觉的情况下引导他们的行为。社交媒体的算法已在利用恐惧或愤怒来吸引注意力，未来的AI系统在带风向，塑造依赖和侵蚀自主权方面，可能会变得更加有效。

AI诈骗与日俱增。犯罪分子已开始仿造声音欺骗受害者的亲友汇款，并制作深伪视频进行投资欺诈。大马在2024年共录得1万3956宗涉及深伪影片的投资诈骗案，损失高达21.1亿令吉。85%的受害者是被AI生成的内容所说服。

过度依赖AI的危险远远超出它的技术缺陷。它的危害包括失业、削弱社会关联和利用心理弱点。这些危害可能会带来不太公平，减少联系，低自由的社会。

负责任的治理、道德设计和公众意识，必需确保AI维持作为人类手上的工具，而不是塑造人类如何选择的霸主。

槟城消费人协会主席
莫希丁阿都卡迪

2025年11月6日  文告