Twój model, twoje dane. Ale kto to obsłuży?

Przez ostatnie dwa lata europejskie firmy regularnie słyszały to samo: uważajcie, gdzie wysyłacie dane. RODO, AI Act, geopolityka, wycieki — lista powodów do niepokoju jest długa. Tyle że większość firm i tak skończyła na OpenAI przez API albo na usługach Azure, bo to było najprostsze. Bezpieczne? Dyskusyjne. Wygodne? Zdecydowanie.

JetBrains właśnie dorzucił do tej rozmowy nowy argument. Mellum2 — ich model językowy zaprojektowany dla programistów — trafił na licencję Apache 2.0. Można go pobrać, uruchomić lokalnie, dostosować i nigdy nie wysłać ani jednego tokenu poza własną infrastrukturę. Zero opłat za API. Zero danych w cudzej chmurze.

Brzmi jak odpowiedź na wszystkie problemy. I byłaby, gdyby problemy były tylko techniczne.

Mellum2 robi kilka rzeczy naprawdę dobrze. Architektura Mixture-of-Experts oznacza, że model ma 12 miliardów parametrów, ale w danym momencie używa tylko 2,5 miliarda. Efekt: działa szybciej i taniej niż modele o podobnych możliwościach. W benchmarku generowania kodu LiveCodeBench v6 wypadł lepiej niż porównywalne rozwiązania tej klasy. JetBrains nie kłamie w komunikacie prasowym — przynajmniej nie bardziej niż zwykle.

Ale Mellum2 nie jest asystentem do Worda ani chatbotem, który zastąpi trzy etaty. To komponent — coś, co wpina się w większy system AI: decyduje, które zapytanie idzie do dużego modelu, które można obsłużyć lokalnie, które wymaga szybkiego podsumowania. Inżynierowie mówią na to „focal model” albo „router”. Dla właściciela firmy to brzmi mniej więcej jak „przekaźnik hydrauliczny” — istotny, ale tylko wtedy, gdy ktoś umie złożyć resztę maszyny.

I tu jest sedno.

Suwerenność cyfrowa to nie jest kwestia licencji. To kwestia zasobów. Open source obniża barierę finansową — nie obniża bariery kompetencyjnej. Żeby realnie skorzystać z Mellum2, firma potrzebuje kogoś, kto ogarnie wdrożenie na własnym serwerze, zintegruje model z istniejącymi narzędziami, będzie monitorował działanie i reagował, gdy coś przestanie działać. To nie jest jednodniowe zadanie dla stażysty.

AWS i Azure są drogie i uzależniające, ale oferują coś, czego open source nie daje za darmo: obsługę. Ktoś po drugiej stronie jest odpowiedzialny za to, żeby działało. W małej firmie — gdzie jeden człowiek jest jednocześnie szefem IT, administratorem i decydentem — ta odpowiedzialność ma realną wartość.

Mellum2 jest najciekawszy dla firm, które już mają dział techniczny i szukają sposobu na ograniczenie kosztów API przy jednoczesnym zachowaniu kontroli nad danymi. Dla nich to uczciwa propozycja.

Dla reszty — suwerenność cyfrowa na razie pozostaje hasłem. Ładnym, słusznym i trudnym do wdrożenia bez kogoś, kto wie, co robi.

Open source to nie jest zła odpowiedź. To tylko niepełna odpowiedź na pytanie, które większość firm jeszcze nie wie, jak zadać.