Badacze porównują to do ludzkiego umysłu. Na wierzchu znajdują się myśli, które potrafimy nazwać i świadomie śledzić, ale pod spodem stale działają procesy, których zwykle nie zauważamy — od automatycznych reakcji po rozpoznawanie wzorców. W podobnym duchu naukowcy z Anthropic opisują zjawisko zaobserwowane w nowoczesnych systemach sztucznej inteligencji.
W modelach Claude — jak podają autorzy opisywanego badania — wykształcił się mechanizm przypominający taki "ukryty poziom" przetwarzania informacji. Otrzymał nazwę J-space i ma odpowiadać za selekcję oraz organizację kluczowych treści, zanim model sformułuje odpowiedź dla użytkownika.
Wojny Australii i Big Techów ciąg dalszy
Czym jest J-space?
J-space to wyróżniona część wnętrza modelu AI, pełniąca rolę globalnej przestrzeni roboczej. Choć podczas działania system przetwarza ogromne ilości danych i wykonuje niewyobrażalną liczbę obliczeń, tylko niewielki wycinek informacji ma trafiać właśnie do tej warstwy.
To w J-space mają być zbierane elementy potrzebne do planowania kolejnych kroków, radzenia sobie z zadaniami wymagającymi wieloetapowego rozumowania oraz ułożenia finalnej wypowiedzi.
Istotne jest też to, że — zgodnie z relacją naukowców — taki mechanizm nie został ręcznie zaprojektowany przez twórców. Zamiast tego miał pojawić się samoistnie w toku uczenia, gdy model "szukał" skuteczniejszego sposobu porządkowania informacji potrzebnych do trudniejszych zadań.
Do obserwacji procesów wewnętrznych zespół wykorzystał narzędzie nazwane Jacobian Lens (J-lens). Ma ono umożliwiać śledzenie, jak w modelu reprezentowane są informacje na poszczególnych etapach generowania odpowiedzi — i to właśnie w ten sposób badacze zauważyli kilka charakterystycznych zjawisk.
Jak naukowcy to odkryli?
Jednym z nich jest coś, co autorzy porównują do wewnętrznego "monologu". Zanim pojawi się odpowiedź widoczna dla użytkownika, w J-space mają pojawiać się reprezentacje odpowiadające pojęciom lub słowom, których człowiek nigdy nie zobaczy. Przy bardziej wymagających zadaniach model tworzy najpierw wewnętrzne etapy rozumowania, a dopiero później przekłada je na końcową wypowiedź.
Z obserwacji ma wynikać również, że złożone rozumowanie opiera się na stosunkowo małym fragmencie całego procesu obliczeniowego. Choć J-space stanowi tylko część pracy modelu, jej rola okazuje się krytyczna: gdy badacze zakłócali działanie tej przestrzeni, system miał wyraźnie tracić zdolność logicznego wnioskowania i gorzej rozwiązywać problemy.
Autorzy badania opisują także eksperymenty, w których ingerowano w to, co znajduje się w J-space. Zmiana wewnętrznej reprezentacji jednego pojęcia na inne skutkowała — jak relacjonują — przewidywalną zmianą w generowanej odpowiedzi.
Nowoczesne modele AI często określa się mianem "czarnych skrzynek": znamy pytanie i widzimy wynik, ale sam mechanizm dochodzenia do odpowiedzi bywa nieprzejrzysty. Odkrycie J-space ma tę sytuację częściowo odwracać, bo wskazuje miejsce, w którym koncentrują się informacje kluczowe dla rozumowania.
Dlaczego to przełom?
Według badaczy lepsze zrozumienie tej warstwy może pomóc szybciej zauważać, kiedy model zmierza w niepożądanym kierunku, trafniej identyfikować źródła błędów oraz skuteczniej rozwijać podejścia do trenowania odpowiedzialnych i bezpiecznych systemów sztucznej inteligencji.
Autorzy podkreślają, że nie należy wyciągać z tego wniosku, iż modele AI zyskały świadomość albo działają tak jak ludzki mózg. Badanie ma jednak pokazywać, że w trakcie uczenia systemy potrafią spontanicznie wykształcać struktury organizowania informacji, które pod pewnymi względami przypominają rozwiązania znane z badań nad ludzkim poznaniem.
Czy AI zaczyna myśleć jak człowiek?
W praktyce to kolejny krok w stronę bardziej precyzyjnego zrozumienia tego, co dzieje się "pod maską" nowoczesnych modeli sztucznej inteligencji — nie na poziomie samych odpowiedzi, ale mechaniki ich powstawania.
Badanie pokazuje jednak, że podczas uczenia się modele potrafią spontanicznie wykształcić wewnętrzną strukturę organizowania informacji, która pod pewnymi względami przypomina mechanizmy znane z badań nad ludzkim poznaniem. To jeden z najciekawszych kroków w kierunku zrozumienia, co naprawdę dzieje się we wnętrzu nowoczesnych modeli sztucznej inteligencji.
