W czym AI nadal jest słaba (i dlaczego to ma znaczenie)
Sztuczna inteligencja rozwija się w niezwykłym tempie.
Pisze kod, wyjaśnia koncepcje, tworzy dokumentację, sugeruje refaktoryzacje, a czasem nawet przewiduje, co próbujemy zbudować. Postęp jest realny. Udawanie, że jest inaczej, byłoby naiwne.
Ale postęp nie oznacza kompletności.
AI jest potężna — a jednak ma swój kształt. I zrozumienie tego kształtu to coś, co oddziela strach od jasności.
W skrócie
- AI jest mocna w rozpoznawaniu wzorców i generowaniu danych wyjściowych
- Jest słaba w kontekście, niejednoznaczności i odpowiedzialności
- Nie myśli długoterminowo
- Nie rozumie dynamiki organizacyjnej
- Nie może ponosić odpowiedzialności
- Znajomość tych ograniczeń zmniejsza niepokój i zwiększa wpływ
---
AI ma swój kształt
Kusi, by dzielić świat na skrajności.
Albo AI to magia. Albo AI jest bezużyteczna.
Żadne z tych stwierdzeń nie jest prawdziwe.
AI wyróżnia się w środowiskach, gdzie:
- Problem jest jasno określony
- Kontekst jest ograniczony
- Cel jest wyraźny
- Kryteria oceny są zdefiniowane
Innymi słowy: zadania ustrukturyzowane.
Inżynieria oprogramowania, niestety, rzadko tak wygląda.
---
1. Kontekst (Niewidzialna Zmienna)
AI pracuje z kontekstem, który jej podano.
Ludzie pracują z kontekstem, który wyczuwają.
W prawdziwych projektach kontekst obejmuje:
- Ograniczenia biznesowe
- Historyczne decyzje
- Wrażliwości polityczne
- Kompromisy wynikające z dziedzictwa
- Nienapisane oczekiwania
Większość z tego nie znajduje się w prompcie.
Większość z tego nie znajduje się w dokumentacji.
A jednak kształtuje to każdą ważną decyzję.
AI nie „czuje” dryfu kontekstu. Nie zauważa napięcia na spotkaniu dotyczącym planu działania. Nie rozumie, dlaczego technicznie czyste rozwiązanie może być strategicznie błędne.
To ma znaczenie.
---
2. Myślenie długoterminowe
AI optymalizuje pod kątem natychmiastowej poprawności.
Inżynieria często optymalizuje pod kątem długoterminowej przeżywalności.
Jest różnica.
Myślenie długoterminowe obejmuje:
- Utrzymywalność ponad spryt
- Prostota ponad abstrakcję
- Stabilność ponad nowość
- Przewidywalne awarie ponad ukrytą kruchość
AI może wygenerować działające rozwiązanie.
Nie może ocenić, jak to rozwiązanie będzie się starzeć przez dwa lata presji na nowe funkcje i rotacji zespołu.
Tego rodzaju myślenie gromadzi się poprzez doświadczenie.
---
3. Niejednoznaczne Wymagania
Wiele problemów inżynierskich zaczyna się w niejednoznaczności.
- „Potrzebujemy czegoś skalowalnego.”
- „To powinno być bardziej elastyczne.”
- „Uczyń to gotowym do produkcji.”
AI wymaga jasności.
Dobrzy inżynierowie tworzą jasność.
Znacząca część pracy polega na przekształcaniu niejasnych pragnień w precyzyjne pytania.
AI może odpowiadać na dobrze sformułowane pytania.
Nie może wiarygodnie wykryć, że samo pytanie jest wadliwe.
---
4. Dynamika Organizacyjna
Oprogramowanie nie żyje w izolacji.
Żyje wewnątrz organizacji.
Decyzje są kształtowane przez:
- Poziomy umiejętności zespołu
- Presja na dostarczenie
- Zależności między zespołami
- Priorytety kierownictwa
- Normy kulturowe
Architektonicznie idealne rozwiązanie może zawieść w środowisku politycznie niezgodnym.
AI nie modeluje zaufania. Nie modeluje zachęt. Nie modeluje zmęczenia.
Ale inżynierowie muszą.
---
5. Odpowiedzialność
To jest najważniejsze ograniczenie.
AI generuje dane wyjściowe.
Ludzie ponoszą konsekwencje.
Gdy system zawodzi:
- Ktoś bada
- Ktoś wyjaśnia
- Ktoś absorbuje wpływ
- Ktoś decyduje, co zmienić
Tej odpowiedzialności nie można delegować na model.
To nie jest luka techniczna. Jest to strukturalne.
---
Dlaczego to powinno Cię uspokoić
Jeśli Twoja tożsamość jest związana z pisaniem kodu, AI będzie wydawać się zagrożeniem.
Jeśli Twoja tożsamość jest związana z osądem, odpowiedzialnością i myśleniem systemowym, AI staje się narzędziem.
Zrozumienie, w czym AI jest słaba, wyjaśnia, na czym powinieneś się skupić.
- Świadomość kontekstu
- Myślenie długoterminowe
- Nawigacja w niejednoznaczności
- Zrozumienie organizacji
- Odpowiedzialność
To nie są umiejętności zanikające.
To są umiejętności kumulujące się.
---
Ważne Przeformułowanie
AI nie zastępuje inżynierii.
Kompresuje zadania ustrukturyzowane.
Im mniej ustrukturyzowany problem, tym bardziej liczy się ludzki osąd.
A inżynieria w świecie rzeczywistym jest pełna problemów nieustrukturyzowanych.
---
Co dalej
W następnym poście chcę zbadać związane z tym napięcie:
Jak zmieniają się procesy rekrutacji, struktury zespołów i oczekiwania, gdy AI staje się częścią codziennej pracy deweloperskiej.
---
Chcesz to przedyskutować?
Nie prowadzę komentarzy na tym blogu.
Jeśli to rezonuje — lub jeśli widzisz to inaczej — śmiało skontaktuj się ze mną na LinkedIn. Naprawdę cenię sobie przemyślane dyskusje.