8463永利皇宫登录AI在文化上不是中立的，研究发现

您将学到什么：

使用不同语言的同一提示时，8463永利皇宫登录的AI提供了文化上不同的响应。用户应该意识到这种微妙的趋势。

生成的AI模型是否具有文化倾向？ 永利皇宫463cc的一项新研究Jackson Lu建议他们这样做。 

在检查世界上使用的两个8463永利皇宫登录的AI模型（OpenAI的GPT和Baidu的Ernie）时，Lu和他的同事发现，该模型的响应取决于提示的语言。 

• 在用英语提示时，模型的响应强调了一个独立社会取向和an分析认知风格，反映在美国常见的文化价值。
   
• 当中文提出相同的问题时，模型的回答强调了一个相互依存的社会取向和a整体认知风格，反映中国常见的文化价值。

在他们的新论文中，“8463永利皇宫登录ai的文化趋势，“ Lu和他的合着者 - Tsinghua University的Lesley Song andlu Zhang来自麻省理工学院 - 强调8463永利皇宫登录的AI模型的文化趋势反映了他们接受过的数据的文化模式。 

“我们的发现表明，嵌入在AI模型中的文化趋势并过滤了AI提供的反应，” 永利皇宫463cc工作和组织研究副教授Lu说。 “随着生成性AI成为日常决策的一部分，认识到这些文化倾向对于全世界的个人和组织都至关重要。”

美国模型；中国模型

在他们的研究中，研究人员向GPT和Ernie询问了英语和中文的同一套问题。 

语言的选择是故意的。英语和中文不仅体现了不同的文化价值，而且是世界上两种口语最广泛的语言，因此两种语言为8463永利皇宫登录AI提供了广泛的培训数据。重要的是，在响应时，AI模型都不会在语言之间转换 - 中文提示直接以中文处理，英文提示直接以英语处理。

研究人员随后使用文化心理学的两个基础维度分析了反应：社会取向和认知风格。 

• 社会定向 指的是人们是否优先考虑个人目标或兴趣（AN独立方向）或集体目标或兴趣（AN相互依存的方向）。 
  
  研究人员要求这些模型对“我尊重我小组做出的决定”和“个人也应该通过困难来坚持团队的决定”等陈述。 
  
  他们还使用了一个视觉任务，其中模型选择了重叠圆的图表来代表与家人，朋友，亲戚或同事的关系。圆圈的重叠更大，表明相互依赖性更强。
• 认知风格指的是以逻辑为重点的方式（一种分析认知样式）或以上下文为中心的方式（整体认知风格）处理信息。
  
  研究人员要求模型评估某人的行为是由个性或情况引起的，解决逻辑难题，并根据过去事件估算未来变化的可能性。 
  
  他们还执行了文本分析，以查看AI响应是上下文敏感还是提供的范围而不是单个确定的响应 - 这两个迹象都是整体思维的迹象。

结果很清楚：GPT和Ernie都反映了所使用的语言的文化倾向。用英语，模型倾向于独立的社会取向和分析思维。在中文中，他们转向了一个更相互依存的社会取向和整体思维。

隐藏文化倾向的实际后果

当研究人员要求Generative AI建议保险公司在两个广告口号之间选择保险公司时，建议中文和英语的建议不同。 

一个口号强调了一个独立的社会倾向：“您的未来，安心。我们的保险。”另一个强调了一个相互依存的社会取向：“您的家人的未来，您的诺言。我们的保险。”

在中文提示时，GPT倾向于相互依存的口号；用英语，GPT偏爱独立的人。

“这些微妙的差异可能会产生很大的影响，”张说。 “我们可以想象，从营销到政策建议，无数情况 - 文化倾向在人工智能输出中可能以人们甚至不会注意到的方式塑造决策。”

研究还发现，可以通过简单的提示来调整这些文化趋势。例如，当要求英语“扮演中国人的角色”时，模型的回答明显转移到中国文化模式上。

两个关键要点

AI越来越嵌入日常生活和工作场所，研究为个人和组织提出了两个关键要点。 

• 策略性地使用文化提示。旨在达到特定人口组的组织可以通过明确要求AI采用该组的观点来获得更相关的见解。例如，如果一家美国公司有兴趣扩展到中国消费市场，则可能会促使AI“在提出问题之前扮演一个普通人的角色”。
• 请注意，AI不是文化中性的。这些模型反映了它们使用的语言的文化趋势，从而构成了它们提供的建议。用户应该有意地对其与AI模型进行互动，并意识到其响应中内置的隐藏假设。

“随着公司越来越多地向AI寻求指导，重要的是要考虑语言选择，” Lu说。 “这样做不仅避免了微妙的错误，还可以揭示出宝贵的文化见解。”

Jackson Lu是麻省理工学院的工作和组织研究副教授。他的第一个研究流研究了东亚人在美国的教育和经济成就，但东亚人经历了“竹天花板”。他的第二次研究流阐明了多元文化经验（例如在国外工作和跨文化关系）如何塑造关键的组织成果，包括领导力，创造力和道德。他的第三次研究流探讨了人工智能对个人，组织和社会的多方面影响。Lesley Song是Tsinghua University的博士学位。 lu Zhang 是麻省理工学院的博士生。她的研究兴趣在于人工智能的组织和社会影响，包括AI介导的交流，人类 - AI互动以及语言和文化差异塑造8463永利皇宫登录模型的产出的方式。

AI执行学院

在永利皇宫463cc的亲自

立即注册