⚡Grok-3: AI uz steroīdiem?⚡

📹 Rīta raidījumā, kurā iznāca #grok3 , #xAI arī dalījās ar jaunu informāciju par saviem datu centriem.

🌐 Daži no jums varbūt atceras, kā oktobrī internetā izplatījās ziņa, ka tikai 122 dienās Nvidia kopā ar xAI uzbūvēja pasaulē lielāko superdatoru Colossus ar 100 000 GPU.

🤔 Tad brīdis visus vienkārši pārsteidza: parasti šādu klasteru celtniecība ilga 2-3 gadus.

🔍 Tūlīt pēc tam GPU skaits Colossus dubultojās un prasīja mazāk laika: tikai 92 dienas. Izrādās, ka tas bija gatavs janvāra beigās, un Grok-3 priekšapmācība, pēc paša Muska teiktā, tika pabeigta gada pirmajās dienās.

🧠 Tāpēc pamata Grok-3, visticamāk, netiktu apmācīts ar šīm iespējām. Bet spriešanas apmācība joprojām turpinās (demonstrācijā tika parādīts apmācības kontrolpunkta trūkums).

✍🏻 Bet tas vēl nav viss: Musks sola, ka Colossus pieaugs piecas reizes lielāks un galu galā tam būs 1 miljons grafikas karšu. Šis pieaugums izmaksātu aptuveni 25–30 miljardus dolāru, un darbs jau ir sācies.

🇲🇨 Uzziņai, katrs #NVIDIA H100 patērē līdz 700 W, tāpēc Colossus kopumā būs aptuveni tāds pats kā Monako...