关于采用生成式人工智能，企业需要了解的事

生成式人工智能是如何工作的

生成式人工智能最常见和最强大的技术之一是大型语言模型，例如GPT-4或谷歌BARD。这些神经网络是根据书籍、网站、社交媒体和新闻文章等各种来源的大量文本数据进行训练的。他们通过猜测一系列单词中的下一个单词来学习语言的模式和概率。例如，给定输入的句子“天空是”，大型语言模型可能预测为“蓝色”、“晴朗”、“多云”或“下雨”等。

通过使用不同的输入和参数，大型语言模型可以生成不同类型的输出，例如摘要、标题、故事、文章、评论、标题、口号或代码。例如，输入“为一个新品牌的牙膏编写一个朗朗上口的口号”，大型语言模型可能会产生“自信的微笑”、“消除你的烦恼”或“像星星一样闪耀”。

企业在使用生成式人工智能时需要考虑的危险信号

虽然生成式人工智能可以为企业提供许多好处和机会，但它也有一些必须克服的缺点。以下是企业在采用生成式人工智能之前需要考虑的一些危险信号。

(1)公共信息与私人信息

随着用户开始尝试生成式人工智能，他们将创建提示、生成文本，并将这项新技术构建到他们的工作流程中。必须有明确的政策来界定哪些信息是公开的，哪些是私有或专有信息。提交私人信息，即使是在人工智能提示中，也意味着信息不再是私人的。尽早开始对话，以确保团队可以在不损害专有信息的情况下使用生成式人工智能。

(2)人工智能的幻觉

生成式人工智能模型并不完美，有时可能会产生不准确、不相关或无意义的输出。这些输出通常被称为人工智能幻觉或人工智能幻影。它们可能是由各种因素造成的，例如数据质量或数量不足，模型偏差或错误或恶意操纵。例如，生成式人工智能模型可能会生成传播错误信息或宣传的假新闻文章。因此，企业需要意识到生成式人工智能模型的局限性和不确定性，并在将其用于决策或沟通之前验证其输出。

(3)在工作中使用错误的工具

生成式人工智能模型不一定是可以解决任何问题或任务的一刀切的解决方案。虽然一些大型语言模型优先考虑一般化响应和基于聊天的界面，但其他大型语言模型是为特定目的而构建的。换句话说，有些模型可能更擅长生成短文本而不是长文本;有些可能更擅长生成事实性文本，而不是创造性文本;有些可能更擅长在一个领域生成文本，而不是在另一个领域。

许多生成式人工智能平台可以针对特定利基市场(例如客户支持、医疗应用、营销或软件开发)进行进一步训练。简单地使用最流行的产品很容易，即使它不是适合手头工作的工具。企业需要了解自己的目标和需求，并为工作选择合适的工具。

(4)垃圾进，垃圾出

生成式人工智能模型的好坏取决于它们所训练的数据。如果采用嘈杂的、不完整的、不一致的或具有偏见的数据，生成式人工智能模型可能会产生反映这些缺陷的输出。例如，在不适当或有偏见的数据上训练的生成式人工智能模型可能会生成具有歧视性的文本，并可能损害企业的品牌声誉。因此，企业需要确保他们拥有具有代表性、多样性和不偏不倚的高质量数据。