主要观点:llama.ttf
既是字体文件,也是大型语言模型和该模型的推理引擎。通过 HarfBuzz 的 Wasm 塑形器,可将整个 LLM 推理引擎(如 Llama)捆绑在字体中,利用包含魔法符号的文本初始化并生成文本,能在任何支持 Wasm 的 HarfBuzz 应用中运行 LLM 进行文本生成,且完全在本地运行。
关键信息:
llama.ttf
是 60MB 大小基于 15M 参数 TinyStories 模型的文件。- 需下载
[llama.ttf](https://github.com/fuglede/llama.ttf/raw/master/llamattf/llama.ttf)
并在使用 HarfBuzz 且有 Wasm 支持的地方使用,可通过构建特定的 HarfBuzz 和 wasm-micro-runtime 并设置LD_PRELOAD
环境变量来实验。
重要细节: - Firefox 和 Chrome 等应用中的字体塑形引擎 HarfBuzz 有 Wasm 塑形器,可允许任意代码“塑形”文本。
- 给出多个相关视频示例,如展示字体运行的6:09 处视频、tom7 的关于用 LLM 格式化文本的语言视频[https://www.youtube.com/watch...]、Erk 关于可编程字体的演讲视频[https://www.youtube.com/watch...]、完全可玩的 Pokémon 灵感游戏[https://www.coderelay.io/font...]。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。