'猥亵': Grammarly的新AI工具提供死去学者的写作反馈

Decrypt

简要

  • Grammarly的“专家评审”功能通过命名专家的视角提供AI写作反馈。
  • 学者们表示该系统包括已故学者,引发用户的褒贬不一的反应。
  • 批评者质疑公司是否可以在未征得同意的情况下使用学者的身份。

Grammarly推出的新的AI功能,提供所谓“专家”视角的写作反馈,正引发学者们的批评,他们表示该工具似乎在“复活”学者以审查用户的作品。 该功能名为Expert Review,分析文本并从特定学者、记者及其他专家的角度生成反馈。许多该AI工具声称模仿的专家已不在人世——一位BlueSky上的中世纪历史学家称之为“病态”。 Grammarly于2009年作为一款AI辅助写作和语法工具推出,其母公司于十月更名为Superhuman,以反映其从单一写作助手转变为一套AI生产力工具的战略,包括研究、日程安排、电子邮件和工作流程自动化工具。

Grammarly去年夏天引入了Expert Review功能。通过Grammarly浏览器扩展,选择加入Superhuman Go版本的用户可以选择一位专家,并根据该学者的领域或已发表的作品获得AI生成的反馈。  “我们的专家评审代理会审查用户正在处理的写作内容,无论是市场营销简报还是关于生物多样性的学生项目,并利用我们底层的大型语言模型(LLM)提供专家内容,帮助文档作者完善作品,”一位Superhuman发言人在_Decrypt_中表示。“建议的专家取决于被评估写作的内容。” 发言人解释,Expert Review代理并不声称获得这些专家的认可或直接参与,而是提供“受专家作品启发的建议,并引导用户关注那些学术影响力大的声音,用户可以进一步深入探索。” “Expert Review中的专家之所以出现,是因为他们的已发表作品是公开的且被广泛引用,”他们说。 在为本文测试该功能时,应用推荐的专家评审包括《纽约时报》前编辑兼媒体专栏作家玛格丽特·沙利文(Margaret Sullivan)、前《Politico》高级媒体记者杰克·沙弗(Jack Shafer)以及哈佛法学院教授劳伦斯·莱西格(Lawrence Lessig)。其他选项还包括AI伦理研究员蒂姆尼特·格布鲁(Timnit Gebru)和康奈尔科技信息科学教授海伦·尼森鲍姆(Helen Nissenbaum)。 虽然该功能旨在帮助学生和专业人士提升写作能力,伯明翰大学历史学教授Vanessa Heggie质疑公司在使用“评审者”之前是否获得了他们的同意。 “我不知道从哪里开始,但……Grammarly现在提供由生者和已故学者进行的‘专家评审’,”Heggie在LinkedIn上写道。“是的,已故的——未经任何人的明确许可,它们基于他们被抓取的作品创建了小型LLMs,并使用了他们的名字和声誉。令人发指。” 曾任美国海军学院政治学副教授的布列尔·哈宾(Brielle Harbin)称之为“奇怪且令人担忧的发展”。 “这种选择——尤其是在没有背景、同意或与教育者进行有意义合作的情况下做出——可能会加深对高等教育中AI工具的怀疑,”她在LinkedIn上写道。“具有讽刺意味的是,旨在加快采用的决策反而可能增强抵制。信任与合作现在非常重要。” Grammarly只是众多试图模仿真人的AI程序公司之一。 2023年,Meta推出了一系列以名人身份为核心的Meta AI聊天机器人,包括史努比狗、汤姆·布雷迪、肯达尔·詹纳和大坂直美。同年,Khan Academy推出了其AI辅导员Khanmigo,允许学生扮演历史人物进行对话,包括英国首相温斯顿·丘吉尔和美国内战间谍及地下铁路 conductor哈丽特·塔布曼。

查看原文
免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明
评论
0/400
暂无评论