人工智能(AI)研究和部署公司OpenAI近日宣布正式成立ChatGPT这是一种对话式人工智能的新模式。OpenAI表示，该平台提供的对话使ChatGPT能够“回答后续问题，承认错误，质疑不正确的前提并拒绝不适当的请求”。
自推出以来，社交媒体上就围绕着这项新创新的可能性和危险展开了热烈的讨论，从调试代码的能力到为大学生写论文的潜力。我们和伯尔尼艾略特高德纳(Gartner)的副总裁兼分析师，讨论了这一创新的广泛影响，以及数据和分析(D&A)领导者应该采取的步骤，以确保负责任地使用这些工具。
希望就这一问题与伯尔尼对话的记者可以联系Meghan.Rimol@Gartner.com．媒体成员可以在文章中引用该材料，并注明出处。
问:为什么ChatGPT引起了如此大的轰动，它与之前的对话式AI创新有什么不同?
答:ChatGPT是当前两个“热门”AI话题的完美风暴:聊天机器人和GPT3。它们一起提供了一种非常有趣的互动方法，并产生了听起来非常人性化的内容。每一项技术都是在过去五年中各自技术取得显著进步的结果。
聊天机器人允许以一种看似“智能”的对话方式进行交互，而GPT3产生的输出似乎已经“理解”了问题、内容和上下文。这就产生了一种恐怖谷效应:“这是人还是电脑?”或者，它是一个类似人类的计算机?“这种互动有时幽默，有时深刻，有时深刻。
不幸的是，这些内容有时也不正确，而且这些内容从来都不是基于类似人类的理解或智能。问题可能出在“理解”和“聪明”这两个词上。“这些术语隐含着人类的含义，所以当它们被应用到算法中时，可能会导致严重的误解。”更有用的观点是将聊天机器人和大型语言模型(LLM)(如GPT)视为完成特定任务的潜在有用工具，而不是室内技巧。成功取决于确定为组织提供有意义的好处的这些技术的应用程序。
问:ChatGPT的潜在用例是什么，特别是在企业中?
答:在高层次上，聊天机器人或会话助手提供与信息源的精心策划的交互。聊天机器人本身有很多用例，从客户服务协助技术人员发现问题。
在高层次上，ChatGPT是一个特定的聊天机器人用例，其中聊天机器人用于与GPT信息源交互(聊天)或“交谈”。在这种情况下，GPT信息源由OpenAI针对特定的领域进行训练。模型上使用的训练数据决定了问题的回答方式。但是，如前所述，GPT能够不可预测地生成错误信息，这意味着该信息只能用于可以容忍或纠正错误的情况。
在计算机视觉、软件工程和科学研究与开发等领域，有许多基础模型(如GPT)的用例。例如，基础模型已被用于从文本创建图像;从自然语言生成、审查和审计代码，包括智能合约;甚至在医疗保健领域创造新药和破译疾病分类的基因组序列。
问:关于ChatGPT和其他类似的AI模型，有哪些道德问题?
答:AI基础模型(如GPT)代表了人工智能领域的巨大变革人工智能领域．它们提供了独特的好处，例如大量减少了创建特定于领域的模型所需的成本和时间。然而，他们也摆姿势风险和伦理问题，包括与:
- 复杂性:大型模型涉及数十亿甚至数万亿的参数。对于大多数组织来说，训练这些模型是不切实际的大，因为必需的计算资源，这可能使它们昂贵且对环境不友好。
- 权力集中:这些模型主要是由拥有巨额研发投资和大量人工智能人才的大型科技公司构建的。这导致权力集中在少数财力雄厚的大型实体手中，这可能在未来造成严重的不平衡。
- 潜在的滥用:基础模型降低了内容创作的成本，这意味着更容易创作出与原作非常相似的深度仿制品。这包括从语音和视频模仿到假艺术，以及有针对性的攻击。涉及的严重道德问题可能会损害声誉或引发政治冲突。
- 黑盒:这些模型仍然需要仔细训练，并且由于它们的黑箱性质，可能会产生不可接受的结果。通常不清楚事实库模型将响应归因于什么，这可能会在数据集中传播下游偏见。这种模型的同质化会导致单点故障。
- 知识产权:该模型是在已创建的作品的语料库上进行训练的，如果这些内容来自他人的知识产权，则仍然不清楚重用这些内容的法律先例可能是什么。
问:D&A领导者如何以道德的方式将人工智能基金会模型整合到他们的组织中?
答:从自然语言处理(NLP)用例开始，例如非面向客户场景的分类、摘要和文本生成，并选择特定于任务的预训练模型，以避免昂贵的定制和训练。由人检查输出的用例是首选的。创建一份战略文件，概述GPT等AI基础模型的好处、风险、机会和部署路线图。这将有助于确定特定用例的收益是否大于风险。
使用基于云的api来使用模型，并选择最小的模型，以提供降低操作复杂性、降低能源消耗和优化总拥有成本所需的准确性和性能。通过发布使用指南、执行这些指南、记录已知的漏洞和弱点以及主动披露有害行为和滥用场景，优先考虑促进负责任地部署模型的供应商。