Bielik przyspiesza. I to nie metafora

Fundacja SpeakLeash robi coś, co rzadko zdarza się w polskiej technologii: nie ogłasza planów, tylko dostarcza kod. W tym tygodniu razem z Akademickim Centrum Komputerowym Cyfronet AGH opublikowała dwa nowe modele draftowe dla rodziny Bielik — pierwsze w Polsce implementacje technologii DFlash. Efekt: czas generowania odpowiedzi przez Bielika może skrócić się kilkukrotnie, bez utraty jakości.

To nie jest aktualizacja interfejsu ani zmiana nazwy wersji. To zmiana w mechanice działania modelu — i żeby zrozumieć, dlaczego to ważne, trzeba na chwilę zajrzeć pod maskę.

Co to jest speculative decoding i dlaczego ma znaczenie

Duże modele językowe generują tekst token po tokenie. Każdy kolejny wyraz to osobna operacja obliczeniowa — sekwencja, której nie da się łatwo zrównoleglić. Im dłuższa odpowiedź, tym dłużej czeka użytkownik. Przy jednym użytkowniku to kilka sekund. Przy tysiącach jednoczesnych zapytań — wąskie gardło, które decyduje o kosztach i skalowalności całej aplikacji.

Speculative decoding to technika, która ten problem obchodzi. Zamiast jednego modelu generującego po jednym tokenie, do pracy wchodzą dwa: lekki model draftowy, który szybko proponuje całe fragmenty tekstu, i główny model, który je błyskawicznie weryfikuje. Jeśli propozycja jest dobra — przyjmuje ją bez generowania od nowa. Jeśli nie — poprawia. W rezultacie czas odpowiedzi spada, a jakość pozostaje taka sama jak przy standardowym generowaniu.

DFlash idzie o krok dalej. Zamiast zmuszać mały model draftowy do rozumowania od zera, DFlash łączy zdolności rozumowania modelu docelowego z szybkością równoległego generowania małego modelu dyfuzyjnego — model draftowy korzysta z ukrytych reprezentacji dużego modelu jako kontekstu i przewiduje całe bloki tokenów jednocześnie. Technologia DFlash pochodzi z pracy badawczej opublikowanej przez naukowców z UC San Diego w lutym 2026 roku, a jej wsparcie trafiło już do dwóch głównych frameworków do serwowania modeli: SGLang i vLLM. NVIDIA wsparła integrację DFlash z obydwoma frameworkami, a na własnym sprzęcie Blackwell deklaruje przyspieszenie do 15x — choć realne wyniki zależą od konkretnego zastosowania. arXiv + 3

Pierwsze polskie wdrożenie

Zespół Bielik.AI, korzystając z frameworka ALLaMo opracowanego przez Krzysztofa Ociepa (Head of Model Training w projekcie), zastosował DFlash do dwóch modeli: Bielik-11B-v3.0 i Bielik-Minitron-7B-v3.0. Efektem są dwa adaptery — Bielik-11B-v3.0-DFlash i Bielik-Minitron-7B-v3.0-DFlash — dostępne na Hugging Face i gotowe do pracy w środowiskach obsługujących DFlash (najnowsze wersje vLLM i SGLang).

Ważna uwaga: modele draftowe nie są samodzielne. Działają wyłącznie jako przystawka do modelu głównego — ich zadaniem jest przyspieszanie inferencji, nie zastępowanie Bielika.

— Stworzyliśmy rozwiązanie oparte na algorytmie DFlash, które pozwala znacząco zwiększyć przepustowość inferencji. Jest to szczególnie istotne dla firm budujących produkty AI, które obsługują tysiące użytkowników jednocześnie — mówi Krzysztof Ociepa z Bielik.AI.

Przekładając to na biznesowy język: jeśli firma serwuje Bielika jako silnik swojej aplikacji, może teraz generować więcej odpowiedzi na tej samej infrastrukturze — albo utrzymać tę samą przepustowość na tańszym sprzęcie.

Skąd przyszedł Bielik i gdzie jest teraz

Żeby ocenić wagę tej aktualizacji, warto przypomnieć skąd projekt wyruszył. Bielik.AI powstał bez wielomilionowych inwestycji korporacyjnych — trening odbywał się na superkomputerach Helios i Athena z Cyfronetu AGH, wyłącznie na danych na wolnych licencjach. Za projektem nie stoi korporacja ani fundusz VC, lecz fundacja, której członkowie za dnia pracują w biznesie, a wieczorami trenują modele. MikrokontrolerBank Pocztowy

Mimo to wyniki są konkretne. Bielik v3 w testach EuroEval — platformie benchmarkowej dla modeli językowych — uplasował się na 4. miejscu w zadaniach wielojęzycznych, wyprzedzając między innymi Nemotron 30B od Nvidii i Llama 3.1 8B od Meta. Projekt znalazł się też w gronie dziesięciu najbardziej wpływowych projektów open-source AI na świecie w konkursie Spotlight AI 2025. My Company PolskaMikrokontroler

Dziś Bielik obsługuje ponad 30 języków europejskich, a na czerwiec 2026 zapowiedziano wersję 3.1 z obsługą 50 języków, w tym chińskiego i arabskiego. Projekt ma patronat Ministerstwa Cyfryzacji, a jego partnerami strategicznymi są EY, InPost i Deviniti. Bank Pocztowy

Dlaczego to ważne dla firm

Bielik można uruchomić lokalnie, na własnej infrastrukturze, bez konieczności wysyłania danych na zewnątrz — co czyni go realną opcją wszędzie tam, gdzie obowiązuje tajemnica bankowa, medyczna czy państwowa. To przewaga strukturalna wobec modeli dostępnych wyłącznie przez API — niezależnie od tego, jak dobre są te modele technicznie. Bank Pocztowy

DFlash tę przewagę wzmacnia. Do tej pory argument przeciwko lokalnemu wdrożeniu brzmiał często: za wolno, za drogo. Modele draftowe obniżają oba te koszty jednocześnie.

Dla firmy rozważającej wdrożenie modelu językowego w produkcji — obsługa klienta, klasyfikacja dokumentów, automatyzacja raportowania — to zmiana rachunku ekonomicznego. Bielik był już rozwiązaniem o sensownym stosunku jakości do kosztów dla polskich zastosowań językowych. Teraz stał się też znacząco szybszy.

To rzadkie połączenie. Zazwyczaj prędkość kosztuje — albo jakość, albo pieniądze. Tym razem nie.