根据一份泄露的内部备忘录,Google 声称它和 OpenAI 都未建立 AI 的护城河,开源 AI 将会是最后的赢家,开源模型更快,定制性更高,隐私保护更好,同等规模时性能更强。
130 亿参数的开源模型训练只需要 100 美元,而 Google 和 OpenAI 有 5400 亿参数的模型训练要花费 1000 万美元。
大语言模型不存在什么秘方,参数太多的大模型反而造成拖累,最佳的模型是能快速迭代的,关注开源模型的开发有助于避免重新发明轮子。
根据一份泄露的内部备忘录,Google 声称它和 OpenAI 都未建立 AI 的护城河,开源 AI 将会是最后的赢家,开源模型更快,定制性更高,隐私保护更好,同等规模时性能更强。
130 亿参数的开源模型训练只需要 100 美元,而 Google 和 OpenAI 有 5400 亿参数的模型训练要花费 1000 万美元。
大语言模型不存在什么秘方,参数太多的大模型反而造成拖累,最佳的模型是能快速迭代的,关注开源模型的开发有助于避免重新发明轮子。