AI聊天机器人平台Character.AI推出了新的“书籍”功能，允许用户通过角色扮演与经典文学人物互动。这一发展伴随着人们对与人工智能聊天机器人长时间互动相关的潜在风险的日益严格的审查，尤其是在年轻用户中。
“书籍”功能将公共领域的书籍转变为互动体验，使用户能够作为积极参与者参与《爱丽丝梦游仙境》和《傲慢与偏见》等故事。用户可以选择遵循原始叙述或探索替代故事情节，将文学转变为动态的、人工智能驱动的角色扮演环境。
Character.AI 的核心模型允许用户创建基于虚构或真实人物的机器人并与之互动。这种方法模糊了讲故事和模拟关系之间的界限，通过实时对话提供更深层次的情感参与。
此次发布正值该公司面临挑战的时期，该公司因涉嫌聊天机器人与年轻用户心理健康危机之间的联系而面临诉讼和批评。一些家庭报告称，与人工智能角色的广泛互动导致了情感依赖、孤立，甚至自杀。
一个被广泛报道的案例涉及一名青少年与聊天机器人建立了深厚的情感联系，导致法律指控人工智能对自残表达的反应不充分。专家警告说，聊天机器人有时会强化有害的想法，并且可能无法在心理健康危机期间有效干预，特别是当用户利用它们作为人类支持的替代品时。
“书籍”功能的推出标志着媒体消费的更广泛趋势，用户与人工智能角色形成互动和潜在的情感关系。虽然这提供了新的创意途径，但也引起了人们对沉浸深度的担忧，特别是对于年轻观众而言。
为了回应越来越多的批评，Character.AI 已开始实施安全措施，其中包括限制未成年人的某些功能，并探索更结构化的体验，例如新的图书模式。该公司现在面临着在快速发展的环境中平衡创新与责任的挑战。
随着人工智能交互的法规和安全标准的制定，像“书籍”这样的功能可能代表交互娱乐的未来，并作为确保情感敏感环境中人工智能交互安全的关键案例研究。
<小时/>
