Les ours chargent la page…
Communauté d’évaluation IA XiuZon · deux ours s’affrontent
GGML Org
Faire tourner l’inférence d’un grand modèle sur n’importe quelle machine
Visiter le projetImplémente en C/C++ pur la quantification et l’inférence GGML : le projet tourne sur CPU sans CUDA, avec Metal sur Apple Silicon et Vulkan / CUDA sur les GPU. Il définit aussi le format de modèle GGUF et fournit llama-server ; de nombreuses solutions de déploiement local reposent dessus.
Composer la génération d’images et de vidéos avec un workflow de nœuds
Open SourceFaire tourner un grand modèle open source en local, en une commande
Open SourceMoteur d’inférence et de service à haut débit pour les grands modèles
Open SourceUne interface de scraping web et de structuration pensée pour l’AI