Sztuczna inteligencja jest tak potężna, jak stojąca za nią architektura danych.
W odcinku 52 podcastu The AI Forecast „Dlaczego modele LLM nie wystarczają i jak AI Fabrics zmienią wszystko” prowadzący Paul Muller rozmawia z dr. Jakiem Trippelem, dziekanem College of Business and Technology na Concordia University w St. Paul oraz współzałożycielem i dyrektorem ds. technicznych Codename 37, wyjaśniając, co powstrzymuje przedsiębiorstwa przed wdrażaniem AI na większą skalę:
Silosowa architektura danych
Niezrozumienie potencjału uczenia maszynowego, uczenia głębokiego i sieci neuronowych
Rosnący dług techniczny
Ich rozmowa obejmuje zagadnienia ekonomii chmury w porównaniu z lokalnymi rozwiązaniami oraz nadchodzącą zmianę z aplikacji SaaS na korzystanie z botów. Poniżej przedstawiamy kluczowe fragmenty ich dyskusji.
Dlaczego architektury sztucznej inteligencji osiągają swoje granice
Paul: Opowiedz o tym, jak architektury sztucznej inteligencji wyglądały i danych w przeszłości i dlaczego musimy je teraz wymyślić na nowo.
Jake: Przeszliśmy przez erę transformacji cyfrowej — to było wyzwanie związane z danymi. Pozostaliśmy w silosach danych, ponieważ w ten sposób zostały zaprojektowane nasze platformy i tak zostały zorganizowane dane. Następnie próbowaliśmy wykonać kilka integracji. Próbowaliśmy korzystać z tych silników integracji aplikacji. Próbowaliśmy znaleźć sprytne sposoby, aby to zrobić, ale skończyło się na tym, że stworzyliśmy bałagan polegający na przenoszeniu ELT do ETL, z systemu do systemu.
Przenieśmy się do teraźniejszości. Dzisiaj te organizacje zachęca się do trzymania nas w silosach, ponieważ teraz pojawiają się silosy danych A, czyli dane wciąż znajdują się w silosach — tam pojawia się moc chmury. Właśnie dlatego jesteśmy dumni, że możemy być partnerami firmy Cloudera.
Wyobraź sobie ten sam problem, tylko na większą skalę. Posiadam agentów AI w dużej liczbie — niesamowite — ale działają oni tylko we własnym silosie danych.
Ludzie będą chcieli więcej. Będą chcieli agentów, którzy będą mogli współpracować, rozmawiać i wspólnie z nimi dochodzić do wniosków. Ale jak to zrobić, jeśli dane nadal tkwią w silosach? Osiągnięcie tego stanu siatki danych będzie wymagało zmiany transformacyjnej, dlatego Cloudera jest świetnym rozwiązaniem, które może w tym pomóc.
Dlaczego duże modele językowe nie wystarczają
Paul: Jakie znasz triki, sprawdzone praktyki, wskazówki lub triki, które pomagają Ci w pełni wykorzystać potencjał danych?
Jake: Najważniejsze jest zrozumienie, że duże modele językowe nie są odpowiedzią na wszystko. AI to wielki świat.
Duże modele językowe są wspaniałe w niektórych zastosowaniach, ale naprawdę słabo radzą sobie w innych. Ludzie muszą zrozumieć siłę uczenia maszynowego, uczenia głębokiego i sieci neuronowych — które są w istocie podstawą pozostałych dwóch.
Zbiór umiejętności naszych czasów polega na opracowywaniu lub stosowaniu odpowiednich modeli do właściwych przypadków użycia oraz na szybkim przetwarzaniu danych. Na tym powinniśmy się skupić.
Efekt kumulacji długu technicznego
Paul: W jaki według Ciebie sposób organizacje pragmatycznie zaczynają przenosić się z miejsca, w którym były, do tego, dokąd zmierzają? Jak czyszczą swoje dane? Czy istnieje mechanizm, dzięki któremu mogą to zrobić bezboleśnie?
Jake: To trudne pytanie, więc spróbuję je trochę rozłożyć na czynniki pierwsze. Nie bez powodu są to trzy dekady. Wciąż widzimy AS/400s na rynku — i one działają. Trzeba przyznać firmie IBM należne im uznanie.
Jednak wyzwaniem dla tych organizacji jest kapitał, które muszą przeznaczyć? Ze względu na efekt kumulacji długu technicznego — można odkładać problem rok po roku, dekadę po dekadzie. Koszty będą tylko rosły.
Ale teraz przynajmniej mamy wybór. Możemy wyciągnąć dane i możemy z nich wyciągnąć o wiele więcej niż kiedykolwiek wcześniej. Zamiast odrzucać podejście typu „plaster” — dopóki mamy dostęp do danych i nadal do nich korzystamy, możemy tworzyć dowolne doświadczenia równolegle.
Dlaczego niektóre zadania AI wracają do środowisk lokalnych
Paul: Jak to wygląda u Twoich obecnych klientów, którzy chcą wdrażać nowe zadania?
Jake: Obserwujemy masową migrację powrotną do rozwiązań lokalnych. Nie mogłem w to uwierzyć. Nigdy bym tego nie przewidział.
Ponieważ organizacje te coraz częściej rozwijają modele, prowadzą szkolenia i wykonują inne działania, model kosztów w chmurze okazuje się po prostu zbyt drogi. Nie spotkałem dyrektora finansowego, który byłby podekscytowany wydawaniem tak dużych kwot miesięcznie na szkolenie tych modeli.
Zatem firmy te dokonują inwestycji. Wracają do centrów danych. Będą amortyzować koszty przez następne pięć lat. Widzimy to w przypadku wyrobów medycznych, usług finansowych i lotnictwa — zwykle jest to model hybrydowy, ale w przypadku określonych zadań, zwłaszcza do szkoleń i rozwoju, jest to znacznie bardziej efektywne kosztowo.
AI jako wzmacniacz nauki — wady i zalety
Paul: Co widzisz w świecie akademickim i jak przygotowujemy kadrę na przyszłość?
Jake: Sztuczna inteligencja jest wzmacniaczem. Wzmacnia to, co dobre, ale i to, co złe.
Dobrą stroną jest to, że ludzie będą się uczyć 10-, 20-krotnie szybciej niż kiedykolwiek wcześniej. Zbudowałem modele, które potrafią czytać książki w zaledwie trzy sekundy. Mogę teraz zanurzyć się w danych i stworzyć dowolny rodzaj doświadczenia edukacyjnego dostosowanego do mojego stylu uczenia się.
Złą stroną jest to, że wybierają uczniowie, a ja nie muszę nic robić. Mogę pozwolić AI wykonywać całą moją pracę i niczego się nie nauczę. To właśnie ta część mnie przeraża.
Zbiór umiejętności naszych czasów to chęć uczenia się. Mam nadzieję, że lubisz się uczyć, bo będziesz to robić każdego dnia do końca swojej kariery.
Posłuchaj całej rozmowy z dr. Jakiem Trippelem w podcaście The AI Forecast w serwisach Spotify, Apple Podcasts oraz YouTube.
