Kiedy liczy się każda sekunda: tworzenie sztucznej inteligencji, na której można polegać

W ostatnich latach dyskusja na temat sztucznej inteligencji skupiała się na dostępności: udostępnianiu modeli zespołom, szybkim przeprowadzaniu eksperymentów oraz weryfikowaniu przypadków użycia. Ten rozdział dobiega końca. Obecnie organizacje zadają sobie inne pytania: kto sprawuje kontrolę nad modelem? Dokąd trafiają dane? Co się stanie w razie awarii?

Wyobraźmy sobie szpital, który wykorzystuje sztuczną inteligencję do diagnozowania zapalenia płuc na podstawie zdjęć rentgenowskich klatki piersiowej. Przychodzi pacjent, który ma trudności z oddychaniem. Lekarz przesyła wynik badania i czeka, ale system nie reaguje – model hostowany w chmurze publicznej, z którego korzysta aplikacja diagnostyczna, jest chwilowo niedostępny. 

W opiece zdrowotnej takie opóźnienia są niezwykle istotne. Warto dokładnie przemyśleć ten scenariusz, ponieważ porusza on kwestię, o której zbyt rzadko mówi się w dyskusjach na temat sztucznej inteligencji: miejsce, w którym model działa, jest równie ważne jak sam model.

Projektowanie pod kątem niezawodności

Chmura publiczna sprawiła, że sztuczna inteligencja stała się dostępna dla ogromnej liczby organizacji, co ma naprawdę ogromną wartość. Jednocześnie w przypadku aplikacji, w których czas działania nie podlega dyskusji, uwzględnienie zależności zewnętrznych staje się istotnym czynnikiem architektonicznym.

Można na to spojrzeć przez pryzmat oczekiwań dotyczących czasu sprawności. Umowa o gwarantowanym poziomie usług (SLA) zapewniająca dostępność na poziomie 99,9% nadal dopuszcza prawie dziewięć godzin przestoju rocznie. W przypadku aplikacji konsumenckiej stanowi to tylko nieznaczną niedogodność. Natomiast w przypadku szpitalnego systemu radiologicznego, platformy handlowej realizującej miliony transakcji czy narzędzia do zarządzania ruchem lotniczym nawet krótkie przerwy mogą wymagać dodatkowego planowania.

Gdy w strukturze systemowej wykorzystywane są usługi zewnętrzne, niektóre aspekty niezawodności są wspólne dla wszystkich dostawców. Ponieważ sztuczna inteligencja znajduje zastosowanie w coraz bardziej newralgicznych obszarach działalności, zespoły często uzupełniają ją o dodatkowe rozwiązania projektowe – takie jak strategie awaryjne i elastyczność wdrożenia – aby dostosować ją do swoich konkretnych wymagań.

Rozwiązanie: uruchamianie sztucznej inteligencji tam, gdzie znajdują się dane

Z drugiej strony, jeśli AI działa tam, gdzie już przechowujesz dane, możesz wybrać środowisko dostosowane do swoich potrzeb i, co ważne, zachować kontrolę nad niezawodnością systemu.

Dzięki usłudze Cloudera AI Inference modele można wdrażać lokalnie, w chmurze prywatnej lub w środowisku hybrydowym. Ta elastyczność pozwala zespołom dostosować procesy wnioskowania do posiadanych danych, obciążeń i profilu ryzyka, bez konieczności stosowania jednej, uniwersalnej architektury.

W praktyce wygląda to tak:

• Ciągłość działania: Twoje aplikacje działają bez względu na to, co dzieje się poza siedzibą firmy

• Przewidywalne koszty: odejście od taryf zmiennych (np. opłat za połączenie) na rzecz mocy obliczeniowej, którą można kontrolować samodzielnie i uwzględnić w planach

• Wydajność w czasie rzeczywistym: jak pokazano w naszej prezentacji dotyczącej radiologii, analiza obrazów trwała mniej niż sekundę, dzięki czemu lekarze otrzymali natychmiastowe wyniki

Oprócz tego zespoły zyskują domyślnie elastyczność w zakresie modeli. Wyselekcjonowany katalog modeli sztucznej inteligencji – obejmujący dostawców takich jak NVIDIA, Cohere i Mistral AI – ułatwia wybór odpowiedniego modelu do każdego zastosowania. Brak uzależnienia od konkretnego dostawcy sprawia, że nie jesteśmy uzależnieni od jego planów rozwoju i możemy zmieniać modele sztucznej inteligencji w miarę pojawiania się lepszych rozwiązań.

Wszystko zostało zaprojektowane z myślą o środowisku produkcyjnym już od pierwszego dnia. Automatyczne skalowanie pozwala na płynne reagowanie na wzrosty zapotrzebowania, wysoka dostępność eliminuje pojedyncze punkty awarii, a optymalizacje wydajności zapewniające czas odpowiedzi poniżej sekundy są wbudowane bezpośrednio w proces wdrażania, a nie wprowadzane później jako dodatkowe usprawnienia.

Mechanizmy zarządzania i nadzoru są wbudowane w całe rozwiązanie. Brama AI narzuca kontrolę dostępu i zasady bezpieczeństwa, zanim żądania dotrą do modelu, natomiast warstwa monitorowania zapewnia ciągły wgląd w opóźnienia, przepustowość i wykorzystanie zasobów.

W rezultacie powstaje system, w którym cała ścieżka wnioskowania pozostaje pod Twoją kontrolą – od wyboru modelu po wdrożenie produkcyjne – a jednocześnie zapewnia elastyczność pozwalającą na uruchamianie sztucznej inteligencji tam, gdzie sprawdza się ona najlepiej.

Dlaczego zachowanie kontroli nad danymi ma szczególne znaczenie dla branż podlegających regulacjom

W sektorze opieki zdrowotnej, usług finansowych czy bezpieczeństwa narodowego ochrona danych stanowi obowiązek prawny. Gdy dane wejściowe, wyniki i polecenia modelu są przekazywane do zewnętrznego dostawcy w celu przeprowadzenia wnioskowania, nie chodzi już tylko o opóźnienia – pojawiają się również obawy dotyczące zachowania zgodności z przepisami i suwerenności.

Warto zastanowić się, jakie dane są faktycznie przesyłane podczas wywołania funkcji wnioskowania. W radiologii może to być wynik badania pacjenta powiązany z kartą medyczną. W sektorze usług finansowych może to być historia transakcji wykorzystywana do wykrywania oszustw. W kontekście prawnym lub obronnym mogą to być dokumenty o charakterze poufnym. Każde z tych wywołań stanowi transfer danych, a w przypadku zewnętrznych interfejsów API transfer ten przebiega przez granicę, nad którą nie masz pełnej kontroli.

Dzięki temu, że procesy wnioskowania odbywają się lokalnie lub w chmurze prywatnej, dane pozostają tam, gdzie ich miejsce, modele autorskie pozostają w pełni własnością organizacji, a ścieżki audytu mają charakter wewnętrzny. Wbudowana funkcja monitorowania zapewnia zespołom wgląd w czasie rzeczywistym w opóźnienia i wykorzystanie zasobów bez konieczności angażowania zewnętrznego dostawcy, co ma znaczenie zarówno dla sprawozdawczości w zakresie zgodności, jak i dla zrozumienia rzeczywistego zachowania modeli w środowisku produkcyjnym.

Koniec z debatami na temat „chmura czy rozwiązania lokalne” – czas tworzyć przemyślane architektury hybrydowe

Sztuczna inteligencja powinna być atutem, który zwiększa niezawodność systemów, a nie kolejnym punktem podatnym na awarie. W sektorze opieki zdrowotnej stawka jest szczególnie wysoka, ale ta sama logika ma zastosowanie wszędzie tam, gdzie skutki przestojów są poważne: na liniach produkcyjnych, w systemach finansowych działających w czasie rzeczywistym oraz w sieciach logistycznych. Aby ograniczyć przestoje i w pełni wykorzystać zalety sztucznej inteligencji, organizacje muszą świadomie wdrażać architektury hybrydowe, tak aby ich najbardziej krytyczne obciążenia działały na infrastrukturze, nad którą sprawują kontrolę.