最聪明的文科生都去训练AI了？大模型的智能边界在哪

在深入分析生命、老化、疾病以及死亡等深奥主题时，我们不禁要问：人工智能该如何恰当地给出回应？目前，从事AI人文训练的专家们正致力于寻找解决方案，目标在于推动人工智能从“基础可用性”向“实用性”以及“负责任的应用”的演变。

AI对话难题

在日常与人工智能的交流中，我们提出的问题往往超出了常规答案所能覆盖的范围。例如，当问题触及自我修复、生命历程中的生老病死等复杂议题时，人工智能的回答能力便显得力不从心。AI的训练者指出，AI在想象力方面存在不足。尽管它拥有认知分析的能力，但在形成观点时仍面临一定的困难。在处理涉及人类复杂情感和价值观念争议的问题时，AI往往显得力不从心。这一现象凸显了目前人工智能在应对此类问题上的不足之处。

训练重要意义

推动人工智能技术的进步，确保其能识别人类深层次的情感并执行多维度的推理，这一目标极为关键。追求这一目标并非旨在寻求一个统一的解决方案，而是专注于挖掘我们思考过程中那些尚未得到充分关注的领域。在大型模型的发展初期，掌握既定的答案确实重要，然而在现实世界，众多问题并无固定答案。为确保人工智能能更准确地模拟人类的思维和情感模式，这一目标在应对诸多挑战时显得至关重要。此外，这一需求也日益紧迫。

人文训练师工作

今年四月之初，黎明正式成为小红书“hi lab”人文智能实验室的一员。在实验室，他与同事们持续进行深入交流，共同研究探讨了二十多个与“边界”概念相关的课题。他们表面上专注于人工智能的训练工作，实则致力于模拟人类间的交流模式，旨在让AI能够理解和模仿人类的复杂情感，并据此产生相应的情绪反应。该设计的宗旨在于确保人工智能在解答问题时，能够展现出丰富的情感维度。

服务重心所在

数据标注员与AI训练师在AI预训练阶段的工作重点十分显著。特别值得注意的是，其中大部分人都拥有F型人格特征。在作出决策时，他们往往优先考虑人的情感、价值观以及人际关系的和谐。这种人格特征使得他们更擅长于理解人类情感，并能够将这些情感更高效地应用于AI的训练过程。因此，AI在最终呈现时，展现出更加人性化的特点。

人文训练趋势

尽管在人工智能领域中，人文训练的应用尚不普遍，尚未成为行业配置的主流，但它的出现无疑标志着人工智能技术发展的新趋势。在过去，行业关注的焦点在于技术的“可用性”，而现在则更加强调技术的“易用性”和“负责任的使用”。Soul APP近期新增“大模型AI灵魂训练师”这一岗位，该岗位的设立，除小红书平台外，亦旨在打造多样化的“人机”互动体验。

训练挑战与价值

在训练期间，一系列挑战接连出现。黎明团队正努力让人工智能在胰腺癌研究领域掌握情感识别能力，然而，人工智能在模仿人类自然流露的沉默或其它情绪表达时遭遇了困难。此外，当用户性别信息不明确时，AI所采用的代词可能会引起用户的不适。目前，针对这一问题的解决方案仍在积极研究中。AI人文训练师的角色至关重要，他们承担着引导AI掌握人类思维方式和交流技能的任务，从而有助于加深机器与人类之间的情感纽带。

您是否认为人工智能未来有可能在情感感知和逻辑推理方面与人类并驾齐驱？期待您的宝贵反馈。此外，恳请您为本文点赞，并分享至您的社交平台。