Aktualności

Instella 3B – AMD pokazuje, że AI to nie tylko domena Nvidii

Klaudia Ciesielska

07 mar 2025 — 1 min read

źródło: Unplash/Rubaitul Azad

AMD wprowadziło na rynek nową rodzinę dużych modeli językowych o nazwie Instella, składającą się z modeli o 3 miliardach parametrów. Modele te zostały przeszkolone na procesorach graficznych AMD Instinct MI300X, co pozwoliło na osiągnięcie lepszej wydajności w porównaniu z istniejącymi otwartymi modelami o podobnej wielkości. purepc.pl

Instella obejmuje różne wersje: podstawowy model przedszkoleniowy, wersję udoskonaloną oraz modele z nadzorem i strojeniem instrukcji. Modele te obsługują długość sekwencji do 4096 tokenów i są zoptymalizowane pod kątem wydajności dzięki technikom takim jak FlashAttention-2 i Fully Sharded Data Parallelism. W testach porównawczych, Instella-3B przewyższa inne w pełni otwarte modele i zbliża się wydajnością do zamkniętych rozwiązań. Szczególnie dobrze radzi sobie w zadaniach takich jak MMLU i GSM8K.

Firma planuje dalsze ulepszenia, w tym wydłużenie długości kontekstu i dodanie funkcji multimodalnych. Dzięki temu AMD umacnia swoją pozycję jako konkurencyjny dostawca sprzętu i oprogramowania dla zaawansowanych zastosowań AI.

Coming soon

This is The Kinetic Brief, a brand new site by Bartosz Martyka that's just getting started. Things will be up and running here shortly, but you can subscribe in the meantime if you'd like to stay up to date and receive emails when new content is

AI democratises cybercrime. Windows on target for hackers

Artificial intelligence, widely recognised as a driver of innovation in business, has become an equally powerful tool in the hands of criminals. The latest Elastic 2025 Global Threat Report, based on analysis of more than one billion data points, sheds light on a worrying trend: the barrier to entry into

AI demokratyzuje cyberprzestępczość. Windows na celowniku hakerów

Sztuczna inteligencja, powszechnie uznawana za motor napędowy innowacji w biznesie, stała się równie potężnym narzędziem w rękach przestępców. Najnowszy Elastic 2025 Global Threat Report, oparty na analizie ponad miliarda punktów danych, rzuca światło na niepokojący trend: bariera wejścia do świata cyberprzestępczości drastycznie maleje, a zautomatyzowane ataki stają się nowym standardem

The end of the 'lone wolf'. The future of cyber security is managed services

Statistics can be unforgiving, and in the case of cyber security, they shed new light on the state of modern business. It is estimated that just 0.009 per cent of the world’s one million companies have a chief information security officer, or CISO, on staff. For years, this

Read more

Coming soon

AI democratises cybercrime. Windows on target for hackers

AI demokratyzuje cyberprzestępczość. Windows na celowniku hakerów

The end of the 'lone wolf'. The future of cyber security is managed services