Sama lokalizacja europejskiej firmy AI nie czyni jej dobrym wyborem. Przed zakupem trzeba ustalić, jaki podmiot prawny podpisuje umowę i jak wygląda łańcuch kontraktowy, gdzie są przetwarzane dane, jacy podwykonawcy i jaka infrastruktura biorą udział w świadczeniu usługi, jakie dowody i zabezpieczenia są dostępne, jak zarządza się danym przypadkiem użycia AI, a także jak zakończyć proces lub zmienić dostawcę. Geografia wyznacza zestaw pytań. Nie jest znakiem jakości.
Moja opinia: zacznij od procesu i wymaganych dowodów, a dopiero potem zweryfikuj firmę. Nie odwrotnie.
Takie podejście pozwala uniknąć dwóch skrótów myślowych. Pierwszy to utożsamianie europejskiej siedziby z całkowicie europejskim łańcuchem technologicznym. Drugi to traktowanie deklaracji zgodności jako dowodu odpowiedniego dla własnego zastosowania. Zakres oceny prawnej, prywatności i bezpieczeństwa zawsze zależy od przypadku użycia oraz umów. Ten artykuł nie stanowi porady prawnej.
Czym jest europejska firma AI?
Użyteczna odpowiedź zaczyna się od pytania: o jakim wymiarze europejskości mówimy? Spółka może być zarejestrowana w jednym kraju europejskim, podpisywać umowę za pośrednictwem innego podmiotu, przetwarzać część danych gdzie indziej i korzystać z kilku warstw infrastruktury. Samo określenie „europejska” nie opisuje więc kupowanego produktu.
Z perspektywy kupującego rozróżniam co najmniej cztery elementy:
- podmiot podpisujący umowę oraz pozostałe zaangażowane podmioty;
- faktycznie świadczoną usługę, w tym wsparcie i używane modele;
- drogę danych, dzienników zdarzeń i kopii zapasowych;
- zakres odpowiedzialności, gdy proces generuje wynik, wydaje rekomendację lub inicjuje działanie.
Unia Europejska przedstawia swoje podejście do AI jako połączenie doskonałości i zaufania, zdolności badawczych, innowacji oraz reguł. Inicjatywa AI Factories wykorzystuje również moc obliczeniową EuroHPC, aby wspierać rozwój AI i innowacje. Jest to kontekst całego ekosystemu, a nie dowód dotyczący konkretnej firmy (Komisja Europejska).
Przy zakupie warto zatem posługiwać się definicją operacyjną: firma jest częścią łańcucha, który musi dać się zweryfikować. Jej adres to tylko jedna z cech tego łańcucha.
Dlaczego sama siedziba firmy nie wystarcza?
Siedziba odpowiada na pytanie „gdzie ustanowiono tę spółkę?”. Niekoniecznie odpowiada na pytanie „kto, co i gdzie przetwarza, z jakim dostępem oraz na podstawie jakiej umowy?”.
Usługa AI może łączyć interfejs, model, dostawcę hostingu, narzędzie obserwowalności, wsparcie świadczone przez ludzi oraz kopie zapasowe. Każda z tych warstw może wpływać na ekspozycję danych lub warunki wyjścia. Wielowarstwowe ramy ENISA wskazują właśnie na potrzebę badania cyberbezpieczeństwa na różnych poziomach systemu AI, zamiast uznawania etykiety dostawcy za wystarczający dowód (ENISA).
Dlatego proszę o udokumentowane odpowiedzi, a nie tylko zapewnienie o suwerenności. Poniższa tabela pomaga przejść od przekazu marketingowego do decyzji zakupowej.
| Pytanie | Wymagany dowód | Słaba odpowiedź | Konsekwencja zakupowa |
|---|---|---|---|
| Jaki podmiot podpisuje umowę i kto faktycznie świadczy usługę? | Umowa, dane podmiotu, role poszczególnych stron | „Jesteśmy firmą europejską” | Nie da się zrozumieć łańcucha odpowiedzialności |
| Gdzie są przesyłane i przechowywane dane, dzienniki zdarzeń oraz kopie zapasowe? | Schemat przepływu, regiony przetwarzania, zasady retencji | „Hosting w Europie” bez określenia zakresu | Zakres pilotażu pozostaje niejasny |
| Jacy podwykonawcy i jakie komponenty uczestniczą w usłudze? | Aktualna lista, funkcja każdej strony, mechanizm powiadamiania | „Zaufani partnerzy” | Nie można ocenić zależności |
| Jakie środki bezpieczeństwa można zweryfikować? | Dokumentacja, mechanizmy kontrolne, odpowiednie raporty lub poświadczenia | „Bezpieczeństwo klasy korporacyjnej” | Nie można powiązać ryzyka z procesem |
| Jak odzyskać dane i zakończyć korzystanie z usługi? | Format eksportu, termin, usuwanie, wsparcie przy wyjściu | „Eksport jest dostępny” | Koszt i wykonalność zmiany pozostają nieznane |
Jakich dowodów wymagać przed pilotażem?
Użyteczny dowód jest konkretny, aktualny, powiązany z zakresem zakupu i możliwy do zweryfikowania przez właściwą osobę. Strona marketingowa może pomóc ukierunkować rozmowę, ale nie zastąpi załącznika do umowy ani przeglądu technicznego.
Zanim dopuści się prawdziwe dane, proszę przynajmniej o:
- prosty schemat procesu, połączonych systemów i przepływów danych;
- listę odpowiednich podmiotów, podwykonawców, elementów infrastruktury i lokalizacji;
- zasady retencji, usuwania, dostępu dla wsparcia oraz wykorzystywania danych;
- zabezpieczenia dopasowane do danego przypadku, a także plan reagowania na incydenty i plan wyjścia.
Potrzebne dowody zależą od danych, poziomu autonomii systemu oraz wpływu jego wyników. Ramy ENISA dają mocną podstawę, by nie ograniczać przeglądu do widocznej aplikacji: praktyki w zakresie cyberbezpieczeństwa należy badać na wielu warstwach systemu (ENISA).
W określeniu potrzeby przed wyborem rozwiązania pomaga mój przewodnik o sztucznej inteligencji w firmie, który pozwala wyjść od problemu, a nie od narzędzia.
Jak określić zasady dotyczące danych i podwykonawców?
Zaczynam od narysowania drogi danych, nawet w bardzo uproszczonej formie. Jakie dane wchodzą do procesu? Skąd pochodzą? Czy są wysyłane do modelu, zachowywane w dziennikach zdarzeń, kopiowane do kopii zapasowej albo dostępne dla wsparcia? Jaki wynik wraca do którego systemu?
Dokument powinien rozróżniać kategorie danych i wykonywane na nich operacje. Powinien też wskazywać dostęp ludzi, konektory, środowiska testowe oraz mechanizmy usuwania. Ogólna wzmianka o „rezydencji danych” nie odpowiada na wszystkie te pytania.
W przypadku każdego podwykonawcy trzeba znać jego funkcję, dane, których dotyczy jego praca, odpowiednią lokalizację, sposób informowania o zmianie oraz opcje dostępne dla kupującego. Nie chodzi o gromadzenie logotypów czy certyfikatów. Chodzi o powiązanie zależności z konkretną konsekwencją.
Przed pilotażem należy osiągnąć trzy rezultaty:
- określić zakres danych dozwolonych i zabronionych;
- uzyskać taki obraz łańcucha przetwarzania, który rozumieją osoby odpowiedzialne za biznes, technologię i bezpieczeństwo;
- przygotować możliwą do przetestowania procedurę zatrzymania procesu, eksportu i usunięcia danych.
Ocena prawna, prywatności i bezpieczeństwa musi być dostosowana do przypadku użycia, ról oraz umów. Żadna lokalizacja, certyfikacja ani formuła marketingowa nie zapewnia automatycznie zgodności.
Jak powiązać wybór z unijnym rozporządzeniem o AI?
Unijne rozporządzenie o AI istnieje jako rozporządzenie (UE) 2024/1689. Komisja opisuje ramy oparte na ryzyku, w których obowiązki zależą między innymi od systemu, zastosowania, roli i poziomu ryzyka (Komisja Europejska).
Praktyczny wniosek nie brzmi „kupuj rozwiązania europejskie”. Należy udokumentować, co robi dany proces, kto w nim uczestniczy i jak kontrolowane są jego skutki, a następnie przekazać sytuację do oceny właściwym specjalistom. Nie klasyfikuję tutaj systemu czytelnika ani nie wyprowadzam z tej klasyfikacji żadnych konkretnych obowiązków.
Pytania początkowe są proste:
- Na jaką decyzję lub działanie wpływa system?
- Kto dostarcza, wdraża, konfiguruje, wykorzystuje i nadzoruje każdy komponent?
- Na jakie osoby może wpłynąć wynik?
- Jakie ślady, zatwierdzenia przez człowieka i drogi odwołania są potrzebne?
Lokalizacja siedziby nie odpowiada na żadne z tych pytań. Umowa i projekt procesu mogą natomiast dostarczyć użytecznych informacji. Jeżeli projekt dotyczy agentów, uzupełnieniem analizy odpowiedzialności i zabezpieczeń będą te ramy dotyczące agentów AI w firmie.
Czy kupić narzędzie lub usługę, czy zbudować proces?
Nie ma jednej odpowiedzi dla wszystkich. Wybór zależy od oczekiwanego tempa, wewnętrznych możliwości obsługi systemu, potrzebnego poziomu kontroli oraz łatwości, z jaką organizacja chce móc zmienić kierunek.
| Opcja | Kontrola | Szybkość | Własność wewnętrzna | Zmiana | Wymagane dowody |
|---|---|---|---|---|---|
| Narzędzie | Dostawca kontroluje znaczną część produktu | Uruchomienie jest często bardziej bezpośrednie, jeśli potrzeba odpowiada funkcjom narzędzia | Zespół jest właścicielem głównie konfiguracji i otaczającego ją procesu | Zależy od eksportów, konektorów i formatów | Architektura, przepływy, podwykonawcy, bezpieczeństwo, eksport i usuwanie |
| Usługa | Kontrola jest podzielona między usługodawcę a kupującego | Może przyspieszyć określenie zakresu i obsługę | Decyzje muszą być dokumentowane i przekazywane | Zależy od umowy, rezultatów i przekazania wiedzy | Role, metody, dostępy, dokumentacja, własność rezultatów, plan wyjścia |
| Budowa procesu | Kupujący może w większym stopniu kontrolować orkiestrację, ale zachowuje wybrane zależności | Wymaga zdolności projektowania i obsługi | Wysoka, jeśli kod, decyzje i operacje zostaną faktycznie przejęte | Może ułatwić wymianę, jeśli interfejsy są rozdzielone | Dowody dla każdego komponentu, testy, obserwowalność, dokumentacja i procedury |
Ta macierz nie przyznaje punktów, ponieważ dobrze ograniczone narzędzie może być łatwiejsze do zastąpienia niż źle udokumentowane rozwiązanie wewnętrzne. Właściwy test jest konkretny: kto będzie w stanie utrzymywać ten proces za sześć miesięcy i co trzeba będzie wymienić, jeśli jeden z komponentów zniknie?
Najważniejsze wnioski:
- Kupuj mierzalną zdolność, a nie tożsamość geograficzną.
- Każdą obietnicę powiąż z dowodem i osobą odpowiedzialną za jego ocenę.
- Od pierwszego dnia traktuj wyjście jako funkcję produktu.
- Decyzje prawne, dotyczące prywatności i bezpieczeństwa zawsze wiąż z konkretnym przypadkiem oraz umową.
Jak przeprowadzić odwracalny pilotaż w 30 dni?
Odwracalny pilotaż nie ma dowieść wszystkiego. Ma sprawdzić, czy ograniczony proces zapewnia widoczną wartość przy ograniczonym ryzyku i już wykonalnym wyjściu. Trzydzieści dni jest tu ramą roboczą, a nie obietnicą terminu regulacyjnego lub wyniku.
Praktyczna lista kontrolna
- Opisać jedno zadanie, jego właściciela i oczekiwany rezultat.
- Wybrać minimalny zakres danych i wyraźnie wskazać zabronione kategorie.
- Zmapować systemy, miejsca przetwarzania i podwykonawców.
- Określić zatwierdzanie przez człowieka oraz sytuacje, w których proces musi się zatrzymać.
- Sporządzić listę dowodów wymaganych przed użyciem jakichkolwiek prawdziwych danych.
- Określić, jakie obserwacje należy zachować, bez zbierania więcej niż to konieczne.
- Przetestować eksport do formatu nadającego się do ponownego wykorzystania.
- Przetestować odebranie dostępów i żądanie usunięcia danych.
- Udokumentować, co po pilotażu zostanie zachowane, poprawione lub porzucone.
- Uzyskać ocenę kwestii prawnych, prywatności i bezpieczeństwa odpowiednią do przypadku oraz umów.
Pierwszy tydzień służy ograniczeniu zadania i zakresu danych. Drugi pozwala skonfigurować proces i mechanizmy kontrolne. Trzeci jest przeznaczony na uruchomienie procesu w ograniczonym zakresie. Ostatni musi obejmować test wyjścia, ocenę dowodów i jednoznaczną decyzję: rozszerzyć, poprawić czy zakończyć.
Sukces bez możliwego do przetestowania eksportu i bez dokumentacji jest demonstracją, a nie zdolnością gotową do zakupu. Dowody wykonanej pracy powinny pokazywać, co działa i w jakich granicach.
FAQ
Czy europejska firma gwarantuje, że dane pozostaną w Europie?
Nie. Lokalizacja siedziby sama w sobie nie opisuje regionów przetwarzania, kopii zapasowych, dostępu wsparcia, modeli ani podwykonawców. Poproś o schemat przepływu, odpowiednie lokalizacje, listę stron oraz zobowiązania umowne. Następnie zleć ocenę całości odpowiednio do swoich danych i zastosowania.
Czy rozporządzenie o AI wymaga wyboru europejskiego dostawcy?
Nie jest to ogólne kryterium wskazane w oficjalnych ramach. Komisja opisuje system oparty na ryzyku, w którym obowiązki są związane z systemem, zastosowaniem, rolą oraz ryzykiem. Kwalifikację i ocenę trzeba przeprowadzić dla konkretnego przypadku, bez zakładania, że pochodzenie geograficzne automatycznie zapewnia zgodność (Komisja Europejska; EUR-Lex).
Jak zweryfikować podwykonawców?
Poproś o aktualną listę, funkcję każdej strony, dane, których dotyczy jej praca, odpowiednie lokalizacje oraz procedurę powiadamiania o zmianach. Następnie powiąż każdą zależność ze schematem technicznym, umową i mechanizmami bezpieczeństwa. Sama lista bez funkcji i przepływów nie wystarcza.
Co należy zaplanować na wypadek zmiany dostawcy?
Zaplanuj udokumentowane formaty eksportu, zwrot konfiguracji i instrukcji, odebranie dostępów, możliwe do zweryfikowania usunięcie danych oraz okres przejściowy określony w umowie. Przetestuj wyjście już podczas pilotażu. Jeżeli zostanie przeanalizowane dopiero w chwili odejścia, będzie za późno, by stało się prawdziwym kryterium zakupu.
Wybór europejskiej firmy AI może być spójny ze strategią ekosystemu, bliskości lub kontroli umownej. Decyzja staje się jednak solidna dopiero wtedy, gdy tożsamość firmy, proces, dane, dowody, zarządzanie i sposób wyjścia są oceniane łącznie.