人工智能（AI）已经成为一种潜在的“支点”技术，不管夸张与否，它有可能全方位改变整个经济。这自然也包括如何管理记录和信息。
大型语言模型（LLM），如OpenAI公司的 GPT-3或谷歌的Bard，提供了非凡的功能和潜在的好处，这些内容我们在前面的文章已经进行了很详细的讨论。然而，与任何突破性创新一样，人工智能/LLM和信息管理的交叉带来了一系列独特的挑战和风险。
数据隐私：最关心的问题
围绕人工智能在信息管理领域的风险讨论的核心是对数据隐私的担忧。LLM的设计初衷是处理庞大的数据集。其中一些数据集可能包含敏感的个人信息，这不可避免地会引发数据隐私和安全问题。
今年早些时候，意大利数据保护局出于数据隐私保护的考虑，对ChatGPT实施了临时禁令，该项禁令的实施，就是一个很好的例子。尽管禁令已经解除，但这起事件强调了公司需要对集成LLM的系统进行严格监督和管理。目前这种集成还处于早期阶段，这些系统与现有工作流程集成的程度或是否取代现有工作流程尚不清楚。
偏见和错误信息：非计划中的后果
人工智能的另一个固有风险在于系统传播偏见和错误信息的可能性。由于像ChatGPT和Bard这样的LLM是根据人类生成的数据进行训练，它们可能会无意地复制嵌入这些数据的偏见。
这种偏见会影响人工智能的输出，使结果发生偏差，并可能影响基于这些输出做出的后续决策。此外，LLM可能非有意地成为传播错误信息的渠道，这一担忧已得到世界各地人工智能领导者的承认。
这对信息管理专业人士来说似乎不那么重要，但生成性AI的本质是，它提取庞大数据集时可能会复制各种偏见，即使您只是让它解析和更正您自己文件中的文本和数据！
不断演变的监管格局
除了这些运营问题之外，公司还需要考虑监管变化带来地更广泛风险。人工智能和LLM的监管格局仍在变化，世界各地的立法机构试图平衡这些技术的巨大潜力及其复杂影响。由于监管限制很可能会增多，公司应当预见并为这些变化做好准备。
OpenAI公司的首席执行官Sam Altman本人也呼吁积极为人工智能立法，这可能是一个信号，预示重大的监管变革可能即将到来。在接下来的12-18个月里，信息管理或合规部门的任何职员都应该密切关注监管变化，任何重要的一揽子法规都可能成为其他国家/地区效仿的模板。
平衡风险与机遇
虽然这些风险带来了不小的挑战，但这些风险并没有掩盖人工智能和LLM能更有效管理信息的变革性潜力，也许最恰当的表述是能更安全地管理信息。
这些技术将彻底改变我们存储、管理和检索信息的方式。然而，为了有效和负责任地发挥其优势，公司需要意识到相关风险，并努力实施强有力的风险降低战略。这些风险领域正是我们嘉柏文件管理公司内部讨论的问题，因此，随着这项不同寻常地技术对我们世界的影响变得更加明显，我们有望尽快整理更多相关内容。
想探讨更多吗？
人工智能和信息管理的融合是一个微妙地动态的领域，需要透彻的理解和进行有信息支撑的决策。
要更深入地了解这些主题，请下载完整的商业领袖思想的文章“人工智能与信息管理：GPT与信息管理的全面解读”。
