写文案、编代码，还支持商业化

值得一提的是，StableLM 的发布主要得益于 Stability AI 在 EleutherAI (一个非营利性研究中心)开源早期语言模型方面的经验，其语言模型包括 GPT-J 、 GPT-NeoX 和 Pythia 套件，它们基于 The Pile 开源数据集训练。

StableLM 是基于一个新的实验数据集训练出来的，该数据集基于 The Pile 构建，但数据集规模是原来的 3 倍，包含 1.5 万亿个标记内容。尽管其参数只有 30 到 70 亿（相比之下，GPT-3 有 1750 亿个参数），但这个数据集的丰富性使得 StableLM 在对话和编码任务中表现出惊人的高性能。

Stability AI 还表示，作为概念验证，他们还使用了斯坦福大学 Alpaca程序对模型进行了微调，使用了五个最近的对话代理数据集的组合：斯坦福大学的Alpaca、Nomic-AI的gpt4all、RyokoAI 的ShareGPT52K 数据集、Databricks 实验室的 Dolly 和 Anthropic 的 HH，并把这些模型发布为 StableLM-Tuned-Alpha。

目前，在官方博客中， Stability AI 也展示了 70 亿参数微调模型在“文本对话、创作内容、编写代码”几个方面的示例：

• 在对话方面，当提问“你会对即将高中毕业的朋友说些什么”，StableLM 回答说：“你们应该为自己的成就、工作、交友等方面感到骄傲，并对自己的未来抱以期望。”

• 面对“写一封邮件”的任务，StableLM 也是可以依照信件的格式，清晰的罗列出相关内容。

（图源： Stability AI 官方博客截图）

• 甚至，StableLM 还可以完成一首 rap 的歌词：

  

• 在面对“用 C 语言编写可以计算机生命意义”的问题上，StableLM 在“解答未果”后，还用幽默的口吻调侃道： “生命的实际意义会有更复杂的成分，例如社会、哲学等。 ”

（图源： Stability AI 官方博客截图）

不 仅如此， StableLM 模型还允许商业化，但开发人员需要遵守 CCBY-SA-4.0 许可条款，自由地检查、使用和调整 StableLM 基础模型。