信息是一种有价值的资源，技术的进步让网上海量的信息可以被人们使用。
ChatGPT等人工智能工具现在正在代表我们管理这些信息——整理、总结并将结果呈现给我们。
但这种将信息管理“外包”给人工智能的做法——尽管方便——也带来了影响。它不仅会影响我们的想法，还可能影响我们的思考方式。
在一个由人工智能算法决定哪些信息可以永久保存、哪些信息被丢弃的世界里，会发生什么?
READ MORE
关键区别：谁的创造力更强 人类还是人工智能？
个性化人工智能的兴起
生成式人工智能工具是建立在一些模型之上，这些模型经过海量预先存在的信息训练。从这些数据中，它们学习如何自主创建文本、图像、音频和视频内容，并通过对“最有可能”的答案进行组合，来回应用户的查询。
尽管ChatGPT在不到一年前才公开发布，但已有许多人在使用。今年六月，ChatGPT添加了自定义回复功能，进一步增强了这款聊天机器人的功能。这一功能允许用户保存自定义指令，明确他们使用机器人的目的以及他们希望机器人如何回应。
这是“个性化人工智能”的例子之一，这是一类人工智能工具，生成适合用户特定需求和偏好的内容。
另一个例子是Meta最近推出的虚拟助手Meta AI。这个聊天机器人可以在包括WhatsApp、Messenger和Instagram在内的Meta平台上进行对话、生成图像和执行任务。
人工智能研究员、DeepMind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）将个性化人工智能描述为一种关系，而不是一种技术。
“这就像一个朋友一样，它真的会一直在你身边，和你一起，就像是在你的团队里。我喜欢把它想象成在你身边的一位出色的教练。”
然而这些技术也备受争议，人们担心数据所有权、偏见和错误信息等等问题。
科技公司正在努力寻找解决这些问题的方法。例如，谷歌已在其 SGE 工具生成的人工智能搜索摘要中添加源链接。该工具因在今年早些时候提供不准确和有问题的回答而受到抨击。
Source: Pixabay
技术已改变我们的思维
生成式人工智能工具——尤其是那些为我们量身定制的工具——将如何改变我们的思维方式?
为了理解这一点，让我们回顾一下20世纪90年代初互联网首次进入我们生活的情景。人们突然间能够获取几乎有关任何事情的信息，无论是银行业务、烘焙、教育还是旅行的信息。
近30年来，众多研究表明，与这种全球“蜂群思维”的相连已改变了我们的认知、记忆和创造力。
举例来说，随着人们能够即时获取相当于3055亿页的信息量，他们的元知识——也就是对知识的了解，已经显著增加。这其中的一个影响就是“谷歌效应”，即在线搜索提高了我们查找信息的能力，但却降低了我们对信息内容的记忆。
一方面，将我们的思维卸给搜索引擎已经被证明可以释放我们解决问题和创造性思维的脑力储备；而另一方面，在线信息检索与注意力的分散和依赖性的增加有关。
研究还表明，不论检索到的信息数量或质量如何，在线搜索都增加了我们的认知自尊，即增加了我们对自己“聪明”的信心。
再加上质疑信息是一件费力的事情，我们越信任搜索引擎，我们就越不会对搜索结果进行批判性的评价。也许你就会明白，为什么接触到前所未有的大量信息并不一定会让我们变得更聪明。
READ MORE
新报告：人工智能工具如何每年为澳洲经济增创千亿收入？
我们是否应该将思考“外包”？
如今的生成式人工智能工具远不止提供搜索结果那么简单。它们为我们定位、评估和综合信息，最后将结果呈现给我们。
这可能意味着什么？如果不推动以人为主导的质量控制，前景并不乐观。
生成式人工智能工具可以生成看起来熟悉、客观和引人入胜的回应，这意味着我们更容易受到认知偏见的影响。
例如，自动化偏差是指人类倾向于高估机器人来源信息的完整性。单纯的曝光效应是指我们更容易相信那些熟悉或个人的信息。
对社交媒体的研究可以帮助我们了解这种偏见的影响。在2016年的一项研究中，脸书（Facebook）用户表示，他们觉得自己更 "了解情况 "的依据是网上发布的新闻内容的数量，而不是他们实际阅读了多少新闻内容。
我们还知道，社交媒体算法创建的“过滤气泡”——根据我们的兴趣来过滤信息——限制了我们所接触的内容的多样性。
这种信息缩小的过程已经被证明会通过减少人们考虑替代观点的倾向，从而加剧意识形态的两极分化。事实还表明，这也增加了人们接触虚假新闻的可能性。
READ MORE
这位澳洲企业主使用人工智能取代了员工 澳人工作面临哪些潜在变化？
反思与行动
毫无疑问，生成式人工智能是一股革命性的力量，有可能为社会做出巨大的贡献。它可以通过提供个性化的内容来重塑我们的教育体系，通过加快写作和信息分析来改变我们的工作实践，并推动科学发现的前沿发展。
它甚至有可能通过帮助我们与他人交流和联系来积极地改变我们的人际关系，有时还可以作为一种合成陪伴的形式。
但是，如果我们判断未来的唯一方法是回顾过去，也许现在是时候反思互联网和社交媒体是如何改变了我们的认知，并开始采取一些预防措施。
培养人工智能素养是一个很好的起点，设计鼓励人类自主和批判性思维的人工智能工具也是一个很好的起点。
最终，我们需要了解我们自己和人工智能的优势和劣势，以确保这些“会思考”的伙伴帮助我们创造我们想要的未来——而不是恰巧排在名单最前面的未来。
本文作者：
Sarah Vivienne Bentley
Research Scientist, Responsible Innovation, Data61, CSIRO
Claire Mason
Principal Research Scientist, CSIRO
Einat Grimberg
Postdoctoral Research Fellow in Technology and Social Sciences, CSIRO
欢迎下载应用程序SBS Audio，关注Mandarin。您也可以通过苹果播客、谷歌播客、Spotify等播客平台随时收听和下载SBS普通话音频故事。
