W odcinku 65 The AI Forecast pt. „The Vibecoding Liability: How Unchecked AI Can Kill Cloud ROI” (Odpowiedzialność vibecodingu: jak niekontrolowana sztuczna inteligencja może zniwelować zwrot z inwestycji) David Linthicum dołącza do gospodarza Paula Mullera, aby ujawnić ukryte koszty środowisk hybrydowych i wielochmurowych oraz wyjaśnić, dlaczego zarządzanie chmurą i odporność stały się priorytetami zarządów firm.
Ponieważ głośne awarie w chmurze ujawniają ukryte zależności i pojedyncze punkty awarii, liderzy IT muszą ponownie przemyśleć odporność, zarządzanie danymi i odpowiedzialność w środowiskach chmury hybrydowej.
Oto najważniejsze elementy rozmowy Paula i Davida:
Podstawowy wyróżnik: niezawodność a odporność
Paul: Odporność to zabawne słowo, ponieważ często utożsamiamy ją z niezawodnością, a tak naprawdę różnica jest istotna, prawda?
David: Tak. Odporność to zdolność firmy do stawiania czoła katastrofom, tak aby nie zatrzymały one jej procesów ani działalności. Innymi słowy, jakie mamy plany A, B i C? Jak bardzo odporne i stabilne mimo błędów będą nasze procesy? Niezawodność zasadniczo dotyczy komponentu: jak dobrze będzie trzymał, a gdy wypadnie z miejsca — czy będzie potrafił na nie powrócić. Odporność to odpowiedzialność, a niezawodność nie. W przypadku dostawców usług w chmurze odporność jest ich odpowiedzialnością, ale konsekwencje i tak ponosi klient. To klient musi zapłacić rachunek. Nie otrzyma on kredytu od tych dostawców usług w chmurze, gdy poniosą oni porażkę.
Paul: Wytrzymałość jest artefaktem architektonicznym, a nie konsekwencją komponentu, prawda? To sposób, w jaki projektujesz swój system. Wiąże się to z architekturą przedsiębiorstwa.
David: Wszystko jest kwestią architektury — na poziomie zarówno aplikacji, jak i przedsiębiorstwa. Trzeba budować i planować odporność. Nie nastąpi to automatycznie i nie jest zawarte w chmurach. To najbardziej zaskakuje. Właściciele firm sądzą, że będą całkowicie odporni na wszelkie problemy, ale teraz dociera do nich, że są omylni jak każdy z nas. Część budowania systemu sztucznej inteligencji, architektury przedsiębiorstwa lub dowolnego rodzaju planowania architektonicznego polega na odporności. Jest to równie ważne — jeśli nie ważniejsze — jak bezpieczeństwo, zarządzanie i inne kwestie, przez które musimy przejść. Konieczna jest operacjonalizacja, aby firma mogła faktycznie udowodnić, za pomocą metryk, że dany problem nie zatrzyma procesów, gdy nastaną gorsze dni. Aby to zrozumieć, trzeba niestety poświęcić czas i pieniądze.
Jeśli firma nie ma odporności, nie będzie w stanie podnieść się po takich doświadczeniach.
Odpowiedzialność i obserwowalność w hybrydowym świecie
Paul: Teraz wiele osób mówi o chmurach hybrydowych, ale pod pewnymi względami wydaje się, że jest to połączenie najlepszych i najgorszych cech obu światów: fizycznego i chmurowego. Jak zbudować jasną odpowiedzialność i obserwowalność w tym, co ostatecznie będzie światem hybrydowym?
David: Firmy tworzące rozwiązania hybrydowe i wielochmurowe muszą radzić sobie ze złożonością, która stanowi ich część, a odporność stanie się wspólną płaszczyzną sterowania, która przez nie przechodzi. Ludzie myślą: „zbuduję dany system w sposób hybrydowy, w którym w razie awarii będzie można przejść do systemów lokalnych, a nawet do innej chmury”. Taka strategia jest poprawna i działa, wiąże się jednak z wydatkami. Myślę, że umiejętność zrozumienia, jakie są te koszty i zasoby oraz jak nimi zarządzać, staje się największym punktem spornym.
Rozwiązanie wielochmurowe jest świetne, ponieważ pozwala na wykorzystanie najlepszych technologii do budowy bardziej wydajnych systemów, ale odporność i niezawodność w ramach tych architektur będą stanowić problem. Zawsze mówię, że można mieć odporność i można mieć wydajność, ale nie można mieć obu. Albo musimy zbudować architekturę odporności, albo będziemy musieli radzić sobie z przerwami w dostawie trzy lub cztery razy w roku, które będą kosztować firmę miliardy.
Rosnące koszty chmury i trend repatriacji
Paul: Jeśli weźmiemy pod uwagę takie kwestie jak katastrofalne awarie, przekroczenie kosztów i złożoną odpowiedzialność, nie dziwi fakt, że wiele firm myśli o repatriacji obciążeń. Jaki jest stan rzeczy w tym obszarze i jakie są niektóre z trudności, z jakimi borykają się firmy, próbując przenieść część tych obciążeń z powrotem do środowisk lokalnych?
David: Najważniejszą kwestią byłby koszt realizacji takiego przedsięwzięcia. Istnieją dwie warstwy. Po pierwsze, firma wydała już około pół miliona dolarów na aplikacje i migrację wszystkich zasobów do chmury, a teraz musiałaby wydać podobną kwotę, aby je przenieść z powrotem. Po drugie, osoba odpowiedzialna za to przedsięwzięcie udać się do zarządu, aby wyjaśnić tę decyzję i dalsze działania. To trudna rozmowa, ponieważ oznacza przyznanie, że przeniesienie do chmury, która pierwotnie miała być bardziej wartościowa i niezawodna, nie przyniosło oczekiwanych rezultatów. Ktoś będzie musiał udać się z pokorą i wyjaśnić, że w rezultacie organizacja musi wrócić do środowiska, w którym ma większą kontrolę nad sprzętem.
Zazwyczaj przejście do dostawców usług kolokacyjnych i dostawców usług zarządzanych jest znacznie bardziej wydajne, ale borykają się oni z kosztami chmury. A teraz, gdy przyglądają się obciążeniom sztucznej inteligencji, starają się przyspieszyć ten ruch, ponieważ nie stać ich na chmurę. Mimo że chmura będzie prostym rozwiązaniem dla sztucznej inteligencji, jest to ścieżka najmniejszego oporu w budowaniu tych systemów. Otrzymuje się cały ekosystem gotowy do pracy na żądanie, ale jest to zbyt drogie dla większości przedsiębiorstw. Jeśli wracamy tam ze względów ekonomicznych, należy przeznaczyć odpowiednie zasoby, aby zapewnić skuteczne działanie.
Paul: Ilu innych programistów w ilu przedsiębiorstwach stworzyło mały projekt poboczny w aplikacji do vibecodingu, która generuje niesamowite obciążenia obliczeniowe lub obciążenia pamięci masowej skutkujące przekroczeniem kosztów?
David: Kodujesz, przekazując systemowi sztucznej inteligencji swoją interpretację i informując go, co musi zakodować. Rzecz w tym, że AI nie rozumie niuansów. Nie rozumie, jak radzić sobie z brakiem wydajności, i ostatecznie wydajesz więcej pieniędzy. Vibecoding jest ciekawy, ale musi nad nim panować człowiek. Coraz częściej widzę, że działające systemy kodowania, które wypróbowuje większość moich klientów, zawodzą, ponieważ nie są w stanie osiągnąć wydajności, której ci klienci potrzebują.
Obejrzyj całą rozmowę z Davidem Linthicumem w podcaście The AI Forecast w serwisach Spotify, Apple Podcasts i YouTube.
