openvinotoolkit/nncf

1.2k 298 32

Python Apache-2.0

创建于 6 年前最后更新 2 天前

AI 综合评分

72 B 级

代码质量

66

文档质量

75

社区健康

69

项目活跃

78

创新性

63

项目简介

Neural Network Compression Framework for enhanced OpenVINO™ inference

bert classification compression deep-learning genai llm mixed-precision-training nlp object-detection onnx openvino pruning pytorch quantization quantization-aware-training semantic-segmentation sparsity tensorflow transformers

相关项目推荐

langchain-ai/langchain

构建上下文感知的推理应用程序框架

run-llama/llama_index

LLM 应用的数据框架，专注 RAG 和知识检索

microsoft/autogen

微软开源的多智能体对话框架