TI/Sztuczna Inteligencja

⬆ Historia

Choć "Sztuczna Inteligencja" (AI, SI) to termin niezwykle popularny w ostatnich latach, trudno jednoznacznie ustalić, co konkretnie oznacza. Powszechnie opisuje się pod tym hasłem starsze i nowsze metody uczenia maszynowego, szczególnie za pomocą sztucznych sieci neuronowych, jednak samo stosowanie tych znanych od lat technik nie uzasadnia wprowadzania nowego terminu. Dlatego powstał też termin "silna (lub ogólna) sztuczna inteligencja" (ang. strong AI lub artificial general intelligence, AGI), odnoszący się do własności systemów, które według niektórych prognoz miałyby powstać już w niedalekiej przyszłości. Według firmy OpenAI, AGI to wysoce autonomiczny system, który przewyższa ludzi w większości (najbardziej) wartościowych ekonomicznie prac. Według artykułu pracowników działu Microsoft Research, AGI to system wykazujący szerokie możliwości inteligencji, w tym rozumowanie, planowanie, oraz zdolność uczenia się na podstawie doświadczenia, posiadający te możliwości na poziomie ludzkim lub wyższym.

Boom na głębokie sieci neuronowe zapoczątkowała sieć AlexNet, która w roku 2012 uzyskała wyniki znacznie przewyższające wszystkie dotychczasowe podejścia z zakresu rozpoznawania obrazów (ang. computer vision). Metodologia używana w uczeniu tej sieci sama w sobie nie była rewolucyjna; przełom spowodowały przede wszystkim dwa, do dzisiaj kluczowe, czynniki:

1. Dostępność (w Internecie) ogromnej ilości zdjęć, na podstawie których prof. Fei Fei Li doprowadziła do powstania ogromnego zbioru obrazów z oznaczeniami treści, nadającego się do uczenia nadzorowanego — ImageNet. Sieci neuronowe uczone na mniejszej ilości danych dawały rezultaty gorsze niż klasyczne metody rozpoznawania obrazów.
2. Dostępność ogromnych mocy obliczeniowych, w szczególności specjalizowanych procesorów do obliczeń graficznych (graphical processing units, GPU), których wbudowana równoległość dramatycznie przyspieszyły proces uczenia sieci.

Kolejny przełom nastąpił w roku 2016, kiedy algorytm AlphaGo wygrał zdecydowanie z Lee Sedolem, jednym z najlepszych graczy w go.

Ostatnią eksplozję zainteresowania SI spowodowało udostępnienie przez kilka wielkich firm Dużych Modeli Językowych (ang. Large Language Models, LLM). W tym miejscu warto wspomnieć, że pierwsze programy komputerowe prowadzące konwersacje w języku naturalnym powstawały już ponad pół wieku temu. Najbardziej rozpoznawalnym do dzisiaj jest ELIZA (nazwa nawiązuje do sztuki Pygmalion), opisana w artykule z 1966 roku — z wersją zbliżoną do oryginału można porozmawiać (po angielsku) np. tutaj. Współczesne Duże Modele Językowe opierają się na architekturze transformerów (pol. transformatorów), opisanej po raz pierwszy w roku 2017 artykule Attention is all you need (zob. interaktywny Transformer explainer z artykułu Transformer Explainer: Interactive Learning of Text-Generative Models.

EU Artificial Intelligence Act

13 marca 2024 roku Parlament Europejski przyjął rozporządzenie, którego treść w języku angielski dostępna jest pod tym adresem: https://artificialintelligenceact.eu/. Reguluje ono zasady stosowania technik sztucznej inteligencji. Zagrożenia podzielono na nieakceptowalne, oraz: wysokiego, mniejszego, i minimalnego ryzyka.

Definicja z AI Act

https://artificialintelligenceact.eu/article/3/ — w luźnym tłumaczeniu:

System SI oznacza oparty na maszynie system stworzony do działania na różnych poziomach autonomii, który może wykazywać adaptację po wdrożeniu, i który — dla konkretnie sformułowanych lub domyślnych celów — wnioskuje na podstawie otrzymanego wejścia jak generować wyjście, takie jak przewidywania, treści, rekomendacje lub decyzje, które mogą wpływać na fizyczne lub wirtualne otoczenia.

AI vs. mózg, samolot vs. sztuczny ptak

Bezpośrednie porównywanie algorytmów sztucznej inteigencji do mózgu jest błędem podobnym do nazywania samolotów "sztucznymi ptakami". Współczesne systemy AI, tak jak wszystkie systemy komputerowe, konstruowane są w celu wykonywania konkretnych zadań (obliczenia, symulacje, decyzje), a nie w celu badania ludzkiego mózgu drogą symulacji (ang. brain simulation). Jednym ze sztandarowych projektów w tej drugiej dziedzinie był Human Brain Project, który, pomimo finansowania na poziomie miliarda €, nie spełnił obietnicy wyrażonej przez Henry Markrama, który na koniec wykładu na konferencji TED w roku 2009 powiedział:

[...] mam nadzieję, że przynajmniej częściowo przekonałem was, że zbudowanie mózgu nie jest niewykonalne. Możemy to zrobić w ciągu 10 lat, i jeśli się nam powiedzie, wyślemy do TED, za 10 lat, hologram, który z wami porozmawia.

Główne cechy współczesnych systemów AI/LLM

Jak pokazywaliśmy w poprzednich rozdziałach o uczeniu maszynowym i sztucznych sieciach neuronowych, choć sam proces uczenia sieci oraz działanie gotowych systemów jest realizowane w postaci programów komputerowych, to konkretne wartości parametrów decydujących o działaniu systemu (głównie wagi połączeń nauczonej sieci) ustalane są przez algorytm na podstawie danych uczących, według ustalonych kryteriów. Taki system nie realizuje więc bezpośrednio zaprojektowanego przez człowieka algorytmu. Liczby parametrów współczesnych modeli przekraczają znacznie 10⁹, a liczba przykładów, na których są trenowane — 10¹³. Obie liczby wciąż rosną. Nie potrafimy interpretować znaczenia tych parametrów, ani też kontrolować jakości zbiorów uczących.

Niektóre problemy

• W odróżnieniu od wyszukiwarek internetowych, systemy AI/LLM nie podają zwykle faktycznych źródeł generowanych odpowiedzi i informacji, za to czasem podają źródła nieistniejące.
• LLM całą wiedzę czerpią wyłącznie ze zbiorów uczących, które coraz bardziej zbliżają się do "zawartości Internetu", więc powielają wyrażane np. w mediach społecznościowych teorie spiskowe, przesądy, bzdury i niesprawiedliwe opinie.
• Czasami LLM dają odpowiedzi bezsensowne lub fałszywe, określane mianem "halucynacji AI" — choć wydaje się, że właściwszym określeniem jes tu słowo "bzdury" (ang. bullshit), jak zasugerowano w artykule ChatGPT is bullshit.
• Jakość LLM, mierzona "błyskotliwością i trafnością" (nie wszystkich) odpowiedzi, zależy dramatycznie od rozmiaru zbiorów uczących. Wszystkie dostępne legalnie zasoby w postaci encyklopedii i archiwów zostały już wykorzystane, największe firmy prześcigają się w powiększaniu zbiorów uczących o (najprawdopodobniej) nielegalnie pozyskiwane treści. Na przykład, jeśli w zbiorze uczącym znajdzie się pełna treść artykułu odpowiadającego na jakieś pytania, to w odpowiedzi na właściwie sformułowane zapytanie LLM może "przekopiować" znaczące części artykułu — jak opisano np. w publikacji Copyright Violations and Large Language Models.
• Uczenie LLM pochłania ogrome ilości energii, porównywalne już z zapotrzebowaniem na energię całych państw. Warto o tym pamiętać gdy mówimy, że "AI zatrzyma globalne ocieplenie i uratuje nas przed kryzysem klimatycznym" :]
• Warto pamiętać, że, podobnie jak piękno jest w oku patrzącego, tak również "inteligencja" odpowiedzi generowanych przez LLM może być częściowo wynikiem wrodzonej ludziom tendencji do antropomorfizmu. Skrajne sformułowanie tych uwag można znaleźć m.in. w artykule On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜.
• Choć często słyszymy, że AI np. "diagnozuje schorzenia", to LLM nie "myślą" tak, jak ludzie. Dowodem nie wprost jest istnienie tzw. one pixel attacks czyli "ataków jednego piksela", którego zmiana może totalnie odwrócić interpretację obrazu — na przykład stawianą na podstawie zdjęcia RTG diagnozę, jak opisano w artykule Adversarial Attacks on Medical Image Classification. Klasycznym argumentem za tą tezą jest paradoks Moraveca.
• Pomimo szeroko reklamowanych osiągnięć najnowszych (koniec 2024) modeli w rozumowaniu matematycznycm, również w tym przypadku można pokazać, że nie rozumują one tak jak człowiek — por. GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models. W abstrakcie tego atykułu czytamy m.in.: "...współczesne LLM nie są zdolne do autentycznego myślenia logicznego, tylko próbują odtwarzać kroki rozumowania zaobserwowane w danych uczących."
• Modele udostępniane przez największe firmy są zabezpieczane, aby uniemożliwić ich zastosowanie do "niewłaściwych" celów jak np. pisanie wirusów, generacja pornograficznych deepfakes czy planowanie zamachów. Jailbreaking to inaczej obchodzenie tych zabezpieczeń, za pomocą specjalnie sformułowanych poleceń. Można to potraktować jako dziury w bezpieczeństwie, które są łatane, po czym pojawiają się nowe, ... Przykład obchodzenia zabezpieczeń pokazuje np. artykuł BadLlama: cheaply removing safety fine-tuning from Llama 2-Chat 13B
• Zaczyna brakować danych, na których można uczyć nowe modele:
  • Dead Internet theory https://theconversation.com/the-dead-internet-theory-makes-eerie-claims-about-an-ai-run-web-the-truth-is-more-sinister-229609
  • LLM powoli zaczynają uczyć się na treściach, które same generują https://arxiv.org/abs/2311.16822
  • model collapse https://theconversation.com/what-is-model-collapse-an-expert-explains-the-rumours-about-an-impending-ai-doom-236415

Slajdy

Slajdy z poprzednich wykładów o SI dostępne są w formacie PDF

---

PJD

⬅ ⬆