Komunitas AI berhasil menyelesaikan pelatihan model bahasa besar Covenant-72B, yang disebut sebagai pre-training LLM terdesentralisasi terbesar sejauh ini.

Proyek ini dijalankan secara permissionless di jaringan Bittensor subnet 3 tanpa pusat komputasi tunggal, memungkinkan siapa pun dengan GPU untuk ikut berkontribusi dalam proses pelatihannya.

Skala proyek ini cukup besar dan menarik perhatian komunitas AI karena pendekatannya yang benar-benar terbuka. Beberapa fakta utama dari Covenant-72B:

• 72 miliar parameter dengan sekitar 1,1 triliun token pelatihan.
• Infrastruktur berbasis internet umum, tanpa cluster komputasi terpusat.
• Partisipasi terbuka, kontributor GPU bisa bergabung atau keluar kapan saja.