Fluktuacije u ponudi i potražnji će stvoriti raznolikost na tom putu, ali dugoročna, izdržljiva putanja izgleda kao da je tu da ostane.
Tri centra inovacija, do sada najveći dobavljači usluga u oblaku ili hiperskaleri, predvodili su tržište u potrošnji na istraživanje i razvoj, angažovanju talenata i inovacijama.
Tržište umjetnom inteligencijom je izazovno i nastavit će rasti.
Osnovna matrična algebra i računanje s velikim brojem podataka opterećuje paralelizam, memorijski i sistemski propusni opseg, umrežavanje, infrastrukturu i aplikativni software.
Na primjer, većina hiperskalera razvila je vlastiti silicij za obuku i zaključivanje, kao što su Amazonov Trainium i Graviton, Googleov TPU ili Meta MTIA. Nvidia je proširila svoju "računsku jedinicu" izvan samog GPU-a, sada integrisanu sa threadovima, hibridnom memorijom, DGX-om i ponudama u oblaku.
Nvidia također unapređuje svoj software, te nudi hostovane usluge, pružajući prilagođena rješenja koja koriste njen hardware i stvara efikasniji ekosistem za programere i korisnike. Apple razvija vlastiti LLM na uređaju i već ima vlastiti silicij.
(Vijesti.ba)