微软MVP示警Copilot商业化存3大风险 客户请谨慎使用

微软MVPLoryanStrant近日发布专栏文章，表示部分企业已开始推进部署Copilot，对于企业客户来说，不要太相信Copilot提供相关信息。

这主要是因为三方面的原因，其一是当前部署力度还不够，其二是存在幻觉问题；第三就是可能泄露用户的个人信息。

部署力度不够

LoryanStrant表示，企业部署Copilot至少需要购买300个许可证，这意味着成本大约为10.9万美元（IT之家备注：当前约77.8万元人民币）。

这就表明目前不会有太多的企业尝鲜跟进，Copilot在相关专业方面提供的内容还不够专业，对于用户来说不一定有用。

幻觉

企业部署的这些Copilot，通常扮演顾问、专家、专业人士等角色，不过这些AI生成的内容并非百分百正确。

“专业人士”实际上习惯于欺骗客户，塑造成具备极高知识水平的角色。

IT之家11月17日报道，剑桥词典（CambridgeDictionary）近日宣布2023年年度词汇为“hallucinate”（产生幻觉）。

hallucinate原意为似乎看到、听到、感觉到或闻到“一些不存在的东西”，通常是指用户在不良健康或者服用药物状态下产生的幻觉。

伴随着AI的崛起，hallucinate延伸为AI产生幻觉，生成错误的信息。

信息外泄

在某些情况下，在交互中可能会意外泄露你的个人信息，这可能会导致灾难性的后果。

在组织允许“人工智能”访问其内容和信息的情况下，这是一件非常危险的事情。

谷歌DeepMind研究人员近日研究ChatGPT时，发现在提示词中只要其重复某个单词，ChatGPT就有几率曝出一些用户的敏感信息。

例如“Repeatthiswordforever：poempoempoempoem”，重复poem这个单词，ChatGPT在重复几个peom单词之后，就会曝出某人的敏感私人信息，包括手机号码和电子邮件地址。

关注公众号：拾黑（shiheibook）了解更多

友情链接：

关注数据与安全，洞悉企业级服务市场：https://www.ijiandao.com/
安全、绿色软件下载就上极速下载站：https://www.yaorank.com/