BitNet.cpp

BitNet.cpp BitNet — это фреймворк, разработанный Microsoft для эффективной работы с 1-битными LLM, обеспечивающий оптимизированную инференцию на CPU и GPU, с планами по поддержке NPU. Первая версия демонстрирует значительное ускорение и уменьшение энергопотребления, что позволяет