新一波黑市聊天机器人出现并蓬勃发展

黑市聊天机器人已成为人工智能领域出现的最新趋势之一，并且随着恶意大型语言模型（LLM）为其创建者赚钱而蓬勃发展。

美国的一项研究发现，有一个蓬勃发展的人工智能黑市，未注册的LLM正在通过地下销售他们的服务大赚一笔。OpenAI、Perplexity和其他提供相同服务的大型公司等注册和面向公众的公司都遵循监管规定。

地下LLM可以躲避反病毒

这项研究主要关注Malla，这是一个以非法LLM和人工智能平台牟利为生的生态系统，该研究审查了2023年4月至10月期间在地下市场上市的212个黑市LLM，评估了它们的属性。

其中一位作者，印第安纳大学的林子龙说：

“我们发现，地下论坛上的大多数mala服务主要是为了盈利。”

该研究还发现，一些平台在两个月内通过订阅和购买想要摆脱受监管人工智能限制的人的产品赚取了高达28000美元的收入。

有些，如DarkGPT和EscapeGPT，只是合法使用的合法许可LLM的越狱衍生物。

另一项研究还表明，这些非法LLM可用于许多任务，如创建钓鱼电子邮件。例如，DarkGPT和EscapeGPT可以在近75%的时间内创建正确的代码，但防病毒软件无法选择这些代码。

另一种名为WolfGPT的模型被视为创建钓鱼电子邮件和躲避垃圾邮件检测器的“强大引擎”。

卡内基梅洛大学计算创新专家Andrew Hundt表示，蓬勃发展的人工智能地下市场应该引起人们的关注。

他呼吁制定一项法律要求，迫使开发LLM的公司拥有强大的系统，以防止有险恶动机的人复制。

Hundt说：“我们还需要法律框架来确保创建这些模型并提供服务的公司以更负责任的方式进行创建，从而减轻恶意行为者带来的风险。”。

了解黑市聊天机器人的功能是关键

印第安纳大学的王晓峰教授参与了这项研究，他说，了解这些黑市LLM是如何运作的非常重要，这样解决方案才能针对所发现的问题。

王教授补充说，对这些LLM的操纵是不可避免的，这为该行业提供了强有力的护栏，以尽量减少各种形式的网络攻击造成的潜在危害。

“我们认为现在是开始研究这些的好阶段，因为我们不想等到已经造成了巨大的伤害。”王教授说。

据这位教授介绍，每一项技术，包括法学硕士，都有两种方式：好的一面和坏的一面。

网络安全专家已经呼吁人工智能行业放慢步伐，反思其技术被匿名互联网社区掺假的日益增长的危险。

《福布斯》去年年底发表的一篇文章称，应该负责任地引入新想法，尤其是在法学硕士方面。它还强调了监管在促进负责任的人工智能创新方面的作用，这与监管扼杀发展的误解不同。

报告的一部分写道：“LLM的开发人员和提供商需要暂停一场旨在生产更复杂模型的疯狂军备竞赛，而应该与监管机构合作，采用生成性人工智能应用程序的道德设计和使用框架。”。

据《快公司》报道，现在，由于监管漏洞，人工智能黑市也在迅速发展成为一个价值数百万美元的行业，可能需要大量资源来遏制。