如果你是一家公司的老板，你愿意将公司的所有机密泄漏给AI吗？OpenAI近期宣布将推出企业版的ChatGPT，能够为客户提供更专业的人工智慧，使AI能够正式应用於专业的商务上。但大型语言模型商用仍面对关键的两难：要够有用，就必须够专业；但如果要够专业，就很可能涉及产业的机密，衍生资讯安全与商业秘密的问题。OpenAI声称，此版本将提供「企业等级的安全与隐私」，也承诺不会将客户公司资料用於训练AI。但…你会选择冒这个风险吗？
撰文｜谢达文
很多人想像中，「未来办公室」的工作模式应该是人与AI共同协作，在ChatGPT等大型语言模型窜红之後，这样的想像看来更有可能实现。按照这样的想像，不论你在哪一个产业，都可以在电脑上输入一些请求，AI就会依照先前所受的训练，自动完成相应的文件、图像、程式，即使是高度专业的任务也可以完成。
但是这样的理想并不容易实现，症结所在就是AI只能「依照先前所受的训练」产出答案。
商用AI的核心两难
如果只是要回答一般性的问题，比如解答算术题目，或是产出制式信件，AI经常可以应付。但如果要回答特定的专业问题，现行的AI经常无能为力──近期最有名的例子是，美国有律师以ChatGPT产出法律文书，却被法官发现内容多处引用根本不存在的判决先例，因此被裁罚5000美金 (Shin, 2023)。在这个案例中，文书所引用的这些判决先例是AI幻想出来的：AI透过所学，知道这类的文书必须大量引用「像是判决先例的东西」，但AI又不够「专业」，无法真的辨别并整理相关的先例，反而是「幻想」(hallucinate) 出不存在的判决。而这样的问题，不只在法律上可能发生，也可能出现於其他专业领域。
顺着AI发展的逻辑，要解决这样的问题理论上其实并不困难：我们可以研发更专业的大型语言模型，用更符合产业专业需求的资料训练AI。但这样的解法，在实务上却相当难达成──毕竟，这些资料要从哪里来？
试想，如果你是公司的经营者，不论你在任何产业，你是否愿意让你的公司当「志愿者」，让员工不断把产业相关的资讯提供给大型语言模型资料，甚至提出回馈，让模型可以透过学习逐步改善，成为对产业更有用的AI？尤其，在大型语言模型建置初期，AI对产能的帮助可能非常有限，错误可能相当多，这样做到底所谓何来？而从资讯安全的角度，让公司员工把各种内部的工作需求「外包」给AI，是否也等於是泄漏公司营运的资讯，从此无法在管控资讯的流向？这些自家员工喂给AI的资讯，是否会因为成为训练资料，而被其他同业得知？(Waters, 2023)
这也就是商用AI发展的核心两难：要够有用，就必须够专业；但如果要够专业，就很可能涉及产业的机密，衍生资讯安全与商业秘密的问题。
也是在这样的考量下，即使调查显示已经有将近三成的美国劳工经常在工作上使用ChatGPT (Naidu, Coulter and Lange, 2023)，却仍有许多大公司禁止或不鼓励员工使用AI协助工作；在台湾，政府目前也禁止公务员运用AI生成机密文书，也严禁公务员向AI提供机密资讯（吴柏轩，2023）。这些在在都是因为资讯安全的考量──AI希望提供更符合专业需求的服务，但企业与政府不敢将专业资讯托付给AI。
ChatGPT公司版，可以逃脱这个两难吗？
在今 (2023) 年八月底，ChatGPT的研发公司OpenAI正式宣布要推出商用版的ChatGPT。在官方网站的公告上，OpenAI特别强调商用版将提供「企业等级的安全与隐私」，正是要回应上述的难题 (OpenAI, 2023)。
具体而言，OpenAI特别承诺，企业版「用户的咏唱 (prompts) 和公司的资料，并不会用於训练OpenAI旗下的模型。（换言之，这是否间接承认现行免费版和付费旗舰版，用户输入的资料都还是会用於训练，OpenAI则没有明确回覆。）
如果公司相信OpenAI的承诺，这或许解决了资安问题，但两难的另一面马上浮上台面：这样的大型语言模型，真的能符合企业的专业需求吗？涉及产业专业知识或技能的需求，企业版ChatGPT是否依然将无能为力，甚至会夹杂众多幻想出的错误资讯？
这一点是OpenAI再来必须努力的问题，身为营利公司，尝试将自己的技术推广做高阶商用，是相当合理的发展。但是，OpenAI是否有能力真的做到，却是另一个问题。尤其，OpenAI创办人自己公开承认，OpenAI现在已经可能是「矽谷最资本密集的新创」，分析家更指出，ChatGPT现行的营运成本已经相当高昂 (Chowdhury, 2023)。在这样的背景下，公司是否有办法投注额外资源，聚焦在处理符合若干特定产业需求的训练资料之上，也是未来值得关注的重点。
参考文献
- Shin, Rachel, 2023, “Humiliated lawyers fined $5,000 for submitting ChatGPT hallucinations in court: ‘I heard about this new site, which I falsely assumed was, like, a super search engine’.”, Fortune.
- Waters, Richard, 2023. “The paradox of OpenAI’s bid to enter the corporate world.”, Financial Times.
- Naidu, Richa, Martin Coulter, and Jason Lange, 2023, “ChatGPT fever spreads to US workplace, sounding alarm for some.”, Reuters.
- 吴柏轩，2023。〈国科会公告 机密公务禁用ChatGPT ／「生成式AI参考指引草案」收集意见 28日截止〉，《自由时报》。
- OpenAI, 2023, “Introducing ChatGPT Enterprise.”
- Chowdhury, Hasan, 2023, “ChatGPT cost a fortune to make with OpenAI’s losses growing to $540 million last year, report says.”, Business Insider.
📖