W silnie regulowanych branżach, takich jak sektor publiczny, zainteresowanie AI szybko rośnie. Podobnie jak pytania, które się z tym wiążą – dotyczące ryzyka, zgodności z przepisami i kontroli.
Te agencje rządowe i organizacje działają pod presją, aby badać możliwości AI, jednocześnie nieustannie chroniąc dane, które wiążą się z zobowiązaniami prawnymi, etycznymi oraz zaufaniem publicznym. Rejestry obywateli, informacje niejawne oraz informacje dotyczące bezpieczeństwa narodowego lub infrastruktury krytycznej nie mogą być po prostu przenoszone, maskowane ani ujawniane w imię eksperymentów.
Przez długi czas suwerenność danych zapewniała stosunkowo jasne ramy dla radzenia sobie z tym wyzwaniem.
Jeśli wrażliwe dane pozostawały w granicach odpowiedniego kraju, wewnątrz zatwierdzonych systemów i podlegały ściśle określonym kontrolom dostępu, organizacje mogły mieć pewność, że działają w sposób odpowiedzialny. Kontrola była ściśle powiązana z lokalizacją. W środowisku opartym na AI to założenie nie jest już aktualne.
Dobra wiadomość jest taka, że suwerenność w erze AI jest możliwa do osiągnięcia. Wymaga to jednak bardziej praktycznego i nowoczesnego zrozumienia tego, co suwerenność danych faktycznie oznacza w kontekście AI.
Czym jest suwerenność danych?
W swej istocie suwerenność danych sprowadza się do kontroli.
Określa ona, jakie przepisy i regulacje mają zastosowanie do danych, kto ma uprawnienia do uzyskiwania do nich dostępu oraz w jaki sposób dane te mogą być wykorzystywane, udostępniane i chronione. Gdy zasady te są jasne, egzekwowane, widoczne i podlegają audytowi, istnieje suwerenność danych.
Termin ten jest często mylony z pokrewnymi pojęciami:
Rezydentność danych, która opisuje, gdzie dane są fizycznie przechowywane
Lokalizacja danych, która ogranicza sposób przesyłania danych przez granice
Zarządzanie danymi, które definiuje zasady dostępu, retencji i ochrony
Każdy z nich odgrywa ważną rolę w kontekście bezpieczeństwa i zgodności organizacji z przepisami. Żaden z nich nie gwarantuje jednak suwerenności z osobna. Są to mechanizmy wspierające ten szerszy „suwerenny” cel: trwałą, egzekwowalną kontrolę w ramach określonych ram prawnych i regulacyjnych.
Dlaczego AI zmieniła sytuację
Historycznie rzecz biorąc, raz uzyskaną kontrolę (lub suwerenność) można było uznać za stosunkowo stabilną. AI podważyła to założenie.
W przeciwieństwie do tradycyjnych systemów analitycznych, AI robi coś więcej niż tylko odczytywanie lub przetwarzanie danych. Uczy się na ich podstawie, tworząc nowe formy informacji, takie jak wytrenowane modele, poznane wzorce i wyciągnięte wnioski. Te artefakty można ponownie wykorzystywać, udostępniać i wdrażać w różnych środowiskach, co potencjalnie naraża wrażliwe dane treningowe na ujawnienie, nawet jeśli oryginalne zbiory danych nigdy nie są przenoszone.
W rezultacie suwerenności danych nie można już oceniać wyłącznie na podstawie lokalizacji przechowywania. Obecnie zależy to od sposobu projektowania, trenowania, wdrażania, zarządzania i monitorowania systemów AI w czasie. Dlatego w przypadku organizacji podlegających regulacjom suwerenności danych nie można traktować jako etapu zapewnienia zgodności dodawanego po wdrożeniu systemów AI. Aby odnieść sukces, musi ona być elementem projektu od samego początku.
Projektowanie strategii AI uwzględniających suwerenność
Gdy suwerenność danych jest traktowana jako kwestia drugorzędna, inicjatywy AI często podążają znanym schematem: dane są kopiowane, centralizowane lub przenoszone do nowych środowisk w celu obsługi nowych narzędzi i modeli. Choć może to przyspieszyć wczesne etapy eksperymentów, zwiększa również ryzyko, osłabia nadzór i utrudnia długoterminowe zapewnienie zgodności z przepisami.
Organizacje przyjmujące bardziej zrównoważone podejście wychodzą z innego założenia. Zamiast zmuszać wrażliwe dane do dopasowania się do narzędzi AI, mogą one projektować strategie AI, które uwzględniają istniejące ograniczenia, takie jak miejsce przechowywania danych, sposób zarządzania nimi oraz obowiązujące reguły. W branżach podlegających regulacjom ta zmiana ma kluczowe znaczenie.
Jak suwerenność wygląda w praktyce
W praktyce rozwiązania w zakresie suwerenności danych dotyczą w mniejszym stopniu poszczególnych narzędzi, a w większym tego, jak dane, nadzór i systemy AI współdziałają w różnych środowiskach. Wiodące organizacje koncentrują się na kilku kluczowych zasadach:
Zbliżenie AI do danych
W środowiskach regulowanych przesyłanie danych jest często największym źródłem ryzyka (lub w niektórych przypadkach jest całkowicie zabronione). Kopiowanie wrażliwych zbiorów danych do nowych platform lub usług w chmurze — nawet zaszyfrowanych lub zamaskowanych — zwiększa narażenie i komplikuje kwestie zgodności.
Podejście stawiające suwerenność na pierwszym miejscu odwraca tę logikę. Obciążenia AI są projektowane tak, aby działały blisko danych, od których zależą, niezależnie od tego, czy dane te znajdują się we własnych lokalizacjach, w bezpiecznych środowiskach chmurowych, czy w systemach rozproszonych. Minimalizując niepotrzebne przesyłanie danych, organizacje zmniejszają ryzyko, zachowując jednocześnie większą kontrolę.
Stosowanie zarządzania danymi w pełnym cyklu życia AI
Tradycyjne zarządzanie danymi często kończy się w momencie ich pozyskania lub przeanalizowania. W środowisku opartym na AI suwerenność zależy od rozszerzenia zarządzania danymi na cały cykl życia AI — od surowych danych po trenowanie, wdrażanie, ponowne wykorzystanie i wycofywanie modeli.
Obejmuje to rozszerzenie kontroli dostępu, śledzenia pochodzenia i zasad użytkowania poza same zbiory danych na modele oraz powiązane z nimi artefakty. Bez tej ciągłości organizacje mogą technicznie zachowywać zgodność z przepisami, tracąc jednocześnie wgląd w sposób podejmowania decyzji opartych na AI.
Wiele wczesnych inicjatyw AI napotyka w tym obszarze trudności. Obowiązki związane z nadzorem są rozproszone między różne narzędzia i zespoły, co utrudnia wyjaśnienie wyników lub wykazanie zgodności. Ujednolicone podejście do zarządzania danymi, w którym ograniczenia są powiązane bezpośrednio z danymi, umożliwia skalowanie programów AI bez utraty nadzoru.
Utrzymanie widoczności, pochodzenia danych i odpowiedzialności
W branżach regulowanych nie wystarczy zakładać, że mechanizmy kontrolne istnieją. Muszą być one możliwe do wykazania.
Organizacje potrzebują klarownego wglądu w to, skąd pochodzą dane, jak trenowano modele oraz jak wyniki AI są wykorzystywane w czasie. Wymóg ten jest szczególnie istotny w sektorze publicznym, gdzie odpowiedzialność wykracza poza organy regulacyjne i obejmuje audytorów, organy nadzorcze oraz opinię publiczną.
Decyzje podejmowane przez AI mogą wymagać wyjaśnienia nawet wiele lat po ich podjęciu. Wbudowanie od samego początku transparentności, pochodzenia danych oraz możliwości audytu w systemy ułatwia dostosowanie się do nowych przepisów, reagowanie na zapytania i utrzymanie zaufania publicznego.
Suwerenność danych nie jest już kwestią, którą organizacje zajmują się tylko raz. Jest to obecnie stała dyscyplina, która kształtuje sposób, w jaki organizacje projektują, wdrażają i nadzorują systemy inteligentne.
Cloudera została zaprojektowana w unikalny sposób, aby wspierać to podejście, pomagając sektorowi publicznemu i innym branżom regulowanym budować możliwości AI, które respektują suwerenność, jednocześnie umożliwiając innowacje. Dowiedz się więcej o tym, jak pomagamy organizacjom osiągnąć oba te cele bez kompromisów.
