llama.ttf

主要观点:llama.ttf既是字体文件,也是大型语言模型和该模型的推理引擎。通过 HarfBuzz 的 Wasm 塑形器,可将整个 LLM 推理引擎(如 Llama)捆绑在字体中,利用包含魔法符号的文本初始化并生成文本,能在任何支持 Wasm 的 HarfBuzz 应用中运行 LLM 进行文本生成,且完全在本地运行。
关键信息:

  • llama.ttf是 60MB 大小基于 15M 参数 TinyStories 模型的文件。
  • 需下载[llama.ttf](https://github.com/fuglede/llama.ttf/raw/master/llamattf/llama.ttf)并在使用 HarfBuzz 且有 Wasm 支持的地方使用,可通过构建特定的 HarfBuzz 和 wasm-micro-runtime 并设置LD_PRELOAD环境变量来实验。
    重要细节:
  • Firefox 和 Chrome 等应用中的字体塑形引擎 HarfBuzz 有 Wasm 塑形器,可允许任意代码“塑形”文本。
  • 给出多个相关视频示例,如展示字体运行的6:09 处视频、tom7 的关于用 LLM 格式化文本的语言视频[https://www.youtube.com/watch...]、Erk 关于可编程字体的演讲视频[https://www.youtube.com/watch...]、完全可玩的 Pokémon 灵感游戏[https://www.coderelay.io/font...]。
阅读 10
0 条评论