头图

Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境,以高效编写自定义 DNN 计算内核,并能够在现代 GPU 硬件上以最大吞吐量运行。

更多 Triton 中文文档可访问 →https://triton.hyper.ai/

triton.jit(fn: T)→ JITFunction[T]
triton.jit(*, version=None, repr: Callable | None = None, launch_metadata: Callable | None = None, do_not_specialize: Iterable[int] | None = None, debug: bool | None = None, noinline: bool | None = None)→ Callable[[T], JITFunction[T]]

使用 Triton 编译器的 JIT 编译函数的装饰器。

注意:

  • 当调用 JIT 编译的函数时,如果参数具有 .data_ptr() 方法和 .dtype 属性,则会隐式转换为指针。

注意:

  • 此函数将在 GPU 上编译和运行。它只能访问以下内容:

    1. Python 原语
    2. Triton 包内的内置函数
    3. 此函数的参数
    4. 其他 JIT 编译的函数

参数:

  • fn (Callable) - 要进行 JIT 编译的函数

超神经HyperAI
1.3k 声望8.8k 粉丝