OpenAI的ChatGPT能生成恶意软件如何应对AI系统调教的黑客

极客网报道，人工智能领域掀起新的警示浪潮。近日，一些分析师发出警告，由OpenAI开发的聊天机器人ChatGPT具备生成恶意软件的能力。这一技术的出现可能为网络安全领域带来前所未有的挑战。

据Tech Monitor报道，ChatGPT这一聊天机器人，基于OpenAI的GPT-3大语言模型开发，已经展现出多种任务完成能力。令人意想不到的是，它还可能被用于网络犯罪活动。工程师lordx64在推特上展示了使用ChatGPT生成新的恶意软件的实例。他强调，用户可以通过OpenAI生成特定的负载，并指定执行的方式及目的，这一技术在网络战争中可能被广泛运用。

回到2019年，OpenAI曾尝试用AI软件生成假新闻，展示AI在文本生成方面的巨大潜力。而现在，ChatGPT的能力更进一步，能够生成代码。网络安全行业专家对此表示担忧。牛津大学的AI和网络安全顾问Raj Sharma表示，尽管这些代码目前还属于基础级别，但黑客如果加以利用，训练AI编写恶意软件，将会带来极大的威胁。Trend Micro的技术专家Bharat Mistry认为，虽然ChatGPT在基础层面易于使用，但要生成强大的恶意软件并不容易，可能需要强大的技术团队才能完成，这样的工具如果被坏人掌握将非常危险。

面对AI生成的恶意软件，如何防御成为了一个新的难题。Sharma认为，可以通过控制措施来阻止恶意内容生成，而对于恶意软件则需要用AI来创建保护机制。Mistry也强调，应该利用AI的优势将其作为防御手段，因为AI擅长创建“多态”事物，并能改变形态去适应每一次交互。AI引擎的高速运行和大规模部署能力是人类难以匹敌的。

随着技术的不断进步，AI在网络安全领域的应用也面临着新的挑战和机遇。我们不仅需要关注AI技术的创新，还需要密切关注其可能带来的安全和道德问题，以确保技术的健康发展。