新加坡国立大学发布 AI 算数模型 GOAT 能力居于 GPT4 之上

IT之家报道，在近日的一项研究中，新加坡国立大学的研究团队推出了一款名为Goat的模型，这款模型被宣传为“算术问题的专家”。据研究人员透露，他们对LLaMA模型进行了精妙的微调，使得Goat在算术方面的准确性和性能超越了近期备受瞩目的GPT-4。

▲图源Arxiv

这款Goat模型的核心优势在于其独特的算术处理能力。研究团队采用了一种新颖的策略，将算术任务按照其可学习性进行分类，然后将复杂且不可直接学习的任务拆分为一系列简单且可学习的子任务。通过这种方式，研究团队成功地将这些子任务导入AI模型，使其能够逐步解决复杂的算术问题。

这种创新的方法让模型不仅仅是依靠“权重记忆计算”来给出答案，而是真正地学习解题的模式和过程，并将这些知识和技巧泛化应用到未见过的数据上。Goat模型在零样本学习中展现出了惊人的精度，特别是在大数加法和减法方面，几乎能够做到完美无误。

为了验证Goat模型的实力，研究团队在配备24 GB显存的GPU上进行了训练，并使用BIG-bench算数子任务对其进行了测试。结果显示，Goat模型的准确率远超其他同行模型，如Bloom、GPT-NeoX和OPT等。更令人惊讶的是，零样本的Goat-7B模型的准确率甚至超越了经过少样本学习的PaLM-540模型，在解决大数计算问题上表现得尤为出色。这一创新突破无疑为AI在算术领域的应用开启了新的可能。