当前位置: 首页 > news >正文

工作中用AI省时又省力?小心“影子AI”导致数据泄露!

“影子AI”:职场棘手的AI问题

你是否有过让ChatGPT润色工作邮件或总结会议记录的经历?乍一看似乎没危害,但用错工具或提供错误信息,可能引发大问题。“影子AI”指员工在未获公司批准、监督或安全审查的情况下,在工作中使用人工智能工具,如ChatGPT、Gemini、会议中的AI记录器、图像生成器等。大多数人并非想泄露公司机密,只是工作中有大量冗长文档、电子表格、会议记录和邮件。然而,将工作信息输入未经批准的AI工具,公司可能失去对信息流向、存储方式和保护情况的掌控。Dropzone AI的创始人兼CEO吴爱德华表示:“一旦专有、敏感和机密的数据泄露出去,就再也收不回来了。”‘影子AI’正成为职场中最棘手的AI问题之一,它虽能节省时间,但可能将公司信息转移到公司无法掌控的地方。下面详细分析这意味着什么,以及如何在工作中使用AI,避免给自己和公司带来麻烦。

什么是“影子AI”?

吴爱德华表示:“归根结底,‘影子AI’就是使用未经IT和安全团队预先批准、审查和认可的AI工具。”这与“影子IT”类似,即员工在工作中使用未经批准的应用程序或软件,往往是麻烦的开端。问题不在于用AI润色句子,而在于给了它公司希望保密的信息,原本想走捷径,可能意外导致数据泄露,如客户姓名、内部文件、源代码或财务信息。不过,在工作中使用AI并非都有风险,让AI重写普通邮件和粘贴客户投诉或法律备忘录不同。经过批准的AI工具通常有隐私控制、安全设置和数据处理规则,而随意使用的免费工具可能没有这些保障。即便工具声称不使用数据进行训练,也无法确定它保存输入信息的时长和谁能访问。吴爱德华说:“如果你把整个代码库复制粘贴到一个免费的AI工具中,那这些代码肯定会立即成为训练数据,而且无法撤回。”

人们为什么使用“影子AI”?

AI工具确实很有用,生成式AI可帮助撰写邮件、总结报告、记录会议笔记、清理杂乱文本、分析数据和激发创意,这些任务占大量工作日时间,且使用AI工具比等待公司批准官方工具快得多。微软《2026年工作趋势指数》显示,58%的受访者表示,AI帮助他们完成了一年前无法完成的任务。吴爱德华表示,公司不应忽视这一点,“‘影子AI’的存在意味着某些功能可以提高生产力,人们在工作中使用AI工具并非为了好玩。”员工的行动速度超过了公司政策,一些公司没有明确的AI使用规则,另一些公司的规则藏在安全文档中,还有些公司禁止使用公共AI工具但不提供有用替代方案。此外,“影子AI”可能存在于浏览器扩展程序、邮件插件、搜索引擎、电子表格助手或会议记录器中,你可能没意识到在使用AI。当面临用更少资源完成更多工作的压力时,免费聊天机器人就会很有吸引力。

公司眼中“影子AI”的风险

一个小小的捷径可能会让你泄露比预期更多的信息。吴爱德华说:“显然,最大的风险就是数据的无节制暴露。”AI工具需要上下文才能有效工作,这些上下文可能包括内部工单、文档、客户详细信息、合同和代码。一旦这些信息被输入未经批准的工具,公司可能无法追踪或找回它们。IBM《2025年数据泄露成本报告》发现,20%的组织环境中存在未经授权的AI工具,而63%的组织没有AI治理政策,或仍在制定中,这表明公司在应对AI的快速应用方面仍落后一步。此外,AI的输出有时听起来合理,但实际上可能是错误的,这被称为“AI幻觉”。聊天机器人可能会总结错误的要点、编造细节、忽略上下文,或者给出一个看似可靠但经不起推敲的答案。如果你将这样的输出用于财务分析或技术文档,这个捷径可能会带来比节省的时间更多的工作。如果AI生成的内容包含虚假细节、私人信息或低级错误,公司不仅要纠正错误,还可能面临声誉损失。例如,德勤提交了一份包含伪造AI研究引用的百万美元政府报告后,遭到了公众的强烈反对,并被要求进行强制审查。总的来说,一个能帮你节省10分钟的工具,可能会给公司带来需要花费数周时间才能解决的问题。律师们在提交包含虚假AI生成案例引用的法庭文件后,已经深刻体会到了这一点。

为什么禁止使用AI通常行不通?

吴爱德华表示:“禁止使用AI工具通常会让更多人选择偷偷使用,就像家长让青少年停止使用Instagram一样,往往行不通。”如果你知道AI能节省时间,而公司又没有提供有用的批准工具,你可能会另寻他法,比如使用个人账户、手机、浏览器插件,或者看起来无害的工具。更好的政策应该关注你使用AI的目的以及输入的数据。公司可以允许将AI用于头脑风暴或总结公开信息,但禁止在公共工具中使用客户数据、机密文件、未发布的产品计划、财务记录或源代码。吴爱德华说:“营销团队可能可以自由使用AI工具生成图像,但客户成功团队请不要直接将客户互动内容复制粘贴到未经授权的工具中。”这种规则更有效,因为它明确了界限。吴爱德华指出,员工很难自行判断什么是合适的,尤其是当AI工具的隐私设置不明显时。他说:“如果规则不明确,就只能靠个人解读了。”公司需要明确的指导方针,说明哪些工具是被批准的、哪些数据是禁止使用的,以及哪些任务需要人工审核。

工作中使用AI该怎么做?

如果你在工作中使用AI,要假定你粘贴到工具中的任何内容都会永远存在。首先要查看公司是否有批准使用的AI工具或相关政策。除非公司明确允许,否则不要在公共工具中上传敏感的内部信息或任何标记为机密的内容。如果你不确定,就不要粘贴。把AI当作圣诞老人的小助手,但不要完全依赖它。要核实事实、验证总结内容、修改生硬的语句,确保最终版本听起来像是一个专业人士写的。虽然AI可能完成了写作或总结工作,但请记住,如果出现错误,受损的可能是你的声誉,也可能是公司的声誉。“影子AI”的出现是因为人们发现了能提高工作效率的工具,这一趋势不会消失。真正的挑战在于确保这些捷径不会演变成安全问题,或者让你和IT及人力资源部门进行一场尴尬的面谈。

http://www.cnnetsun.cn/news/3107799.html

相关文章:

  • 拒绝环路+负载分担!MSTP实战配置
  • 拯救你的数字书库:novel-downloader小说下载器完整使用指南
  • 67|技能治理:版本、禁用回滚与共享策略
  • AI浪潮下SaaS行业震荡:估值重估、企业内卷,未来路在何方?
  • MySQL(十八)分库分表详解(介绍、Mycat概述安装、Mycat入门、Mycat配置、Mycat分片、Mycat管理及监控)
  • 这是关于选择器
  • TikTokDownload Cookie自动获取:告别手动烦恼的10分钟终极指南
  • 如何通过HWInfo插件实现FanControl智能风扇控制:完整配置指南
  • 山西干冰医用冷藏
  • Three.js 精灵标签教程
  • 如何3分钟搞定QQ空间数据备份:GetQzonehistory智能导出工具完整指南
  • Three.js 变换 Box3教程
  • 基于Agentic AI的降维算法自动化调优与可视化评估实践
  • TELAPA框架:基于策略档案与共享潜空间的持续强化学习实践
  • 8位MCU安全连接云端:PIC18F2620与A5000加密芯片实践
  • Anthropic Claude‘归零层’技术解析:语义校验环的架构级移除
  • GPT-4的‘2%激活‘真相:MoE稀疏推理原理与工程实践
  • 期权量化交易系列教程(四):经典方向性策略——备兑、保护性看跌与价差组合
  • Angular端到端测试实战:用TestCafe替代Protractor
  • Ubuntu 14.04下MongoDB备份恢复与迁移实战指南
  • Flask生产部署:Gunicorn+Nginx在Ubuntu 20.04上的完整实践
  • 告别手动抢购烦恼:Campus-iMaoTai智能茅台预约系统完全指南
  • 语义一致性仲裁系统:ADK契约引擎+Agent SDK协同验证
  • Debian 8 上安全部署 Django 1.11 的完整实践指南
  • PCF8591与PIC18LF25J11的硬件协同设计与信号处理优化
  • 从简历到offer:Java面试的全流程攻略
  • Mythos动态闸门:Claude 3.5的语义栅栏与可信推理机制
  • Gemini 3.0全家桶如何重塑前端开发工作流
  • MuleSoft如何实现企业级AI编排:LLM与业务系统的语义融合
  • 医院智慧后勤数字化建设技术方案