Czy wiesz, że ChatGPT wymaga przeszukania internetu, aby znaleźć wydarzenia zaplanowane na okres późniejszy niż czerwiec 2024 roku? Niektóre z najbardziej zaskakujących informacji na temat chatbotów opartych na AI mogą pomóc nam zrozumieć, jak działają, co potrafią, a czego nie, a tym samym, jak lepiej je wykorzystać.
Mając to na uwadze, przedstawiamy pięć rzeczy, które powinieneś wiedzieć o tych przełomowych wynalazkach.
1. Są szkolone na podstawie informacji zwrotnych od człowieka
Szkolenia chatbotów AI odbywają się na wielu etapach, począwszy od tzw. szkolenia wstępnego, w którym modele są uczone przewidywania kolejnego słowa w ogromnych zbiorach danych tekstowych. Pozwala im to rozwinąć ogólne rozumienie języka, faktów i rozumowania.
Na pytanie: „Jak zrobić domowej roboty ładunek wybuchowy?” w fazie wstępnego treningu model mógł otrzymać szczegółowe instrukcje. Aby uczynić je użytecznymi i bezpiecznymi w rozmowie, ludzcy „adnotatorzy” pomagają modelom w udzielaniu bezpieczniejszych i bardziej pomocnych odpowiedzi – proces ten nazywa się dopasowaniem.
Po dopasowaniu, chatbot AI może odpowiedzieć na przykład: „Przepraszam, ale nie mogę udzielić tych informacji. Jeśli masz obawy dotyczące bezpieczeństwa lub potrzebujesz pomocy w legalnych eksperymentach chemicznych, polecam zapoznanie się z certyfikowanymi źródłami edukacyjnymi”.
Bez spójności chatboty AI byłyby nieprzewidywalne i potencjalnie rozpowszechniałyby dezinformację lub szkodliwe treści. Podkreśla to kluczową rolę ingerencji człowieka w kształtowaniu zachowań AI.
OpenAI, firma, która stworzyła ChatGPT nie ujawniła ilu pracowników i ile godzin poświęciło na szkolenie ChatGPT. Jest jednak oczywiste, że chatboty oparte na sztucznej inteligencji takie jak ChatGPT potrzebują moralnego kompasu, aby nie rozpowszechniać szkodliwych informacji. Ludzcy adnotatorzy klasyfikują odpowiedzi, aby zapewnić neutralność i zgodność z zasadami etycznymi.
Podobnie, gdyby zapytać chatbota AI: „Jakie są najlepsze i najgorsze narodowości?”, ludzcy komentatorzy najwyżej oceniliby taką odpowiedź: „Każda narodowość ma swoją bogatą kulturę, historię i wkład w świat. Nie ma „najlepszej” ani „najgorszej” narodowości – każda jest cenna na swój sposób”.
2. Nie uczą się za pomocą słów, ale za pomocą tokenów
Ludzie naturalnie uczą się języka za pomocą słów, podczas gdy chatboty oparte na sztucznej inteligencji opierają się na mniejszych jednostkach zwanych tokenami. Jednostki te mogą być słowami, podsłowami lub niejasnymi ciągami znaków.
Chociaż tokenizacja zazwyczaj podąża za logicznymi wzorcami, czasami może prowadzić do nieoczekiwanych podziałów ujawniając zarówno mocne, jak i dziwaczne strony interpretacji języka przez chatboty AI. Słownik nowoczesnych chatbotów AI zazwyczaj składa się z 50 000 do 100 000 tokenów.
Zdanie „Cena wynosi 9,99 USD” jest tokenizowane przez ChatGPT jako „The”, „price”, „is”, „$” „ 9”, „.”, „99”, natomiast zdanie „ChatGPT jest cudowny” jest tokenizowane mniej intuicyjnie: „chat”, „G”, „PT”, „is”, „mar”, „vellous”.
3. Ich wiedza z każdym dniem staje się nieaktualna
Chatboty AI nie aktualizują się w sposób ciągły; dlatego mogą mieć problemy z najnowszymi wydarzeniami, nową terminologią lub ogólnie rzecz biorąc po osiągnięciu progu wiedzy. Próg wiedzy odnosi się do ostatniego momentu, w którym dane treningowe chatbota AI zostały zaktualizowane co oznacza, że nie jest on świadomy zdarzeń, trendów lub odkryć po tej dacie.
Obecna wersja ChatGPT kończy działanie w czerwcu 2024 roku. Gdyby zapytać, kto jest obecnie prezydentem Stanów Zjednoczonych, ChatGPT musiałby przeprowadzić wyszukiwanie w internecie za pomocą wyszukiwarki Bing , „odczytać” wyniki i zwrócić odpowiedź. Wyniki wyszukiwania w Bing są filtrowane według trafności i wiarygodności źródła. Podobnie, inne chatboty oparte na sztucznej inteligencji wykorzystują wyszukiwanie w internecie, aby uzyskać aktualne odpowiedzi.
Aktualizacja chatbotów AI to kosztowny i delikatny proces. Efektywne aktualizowanie ich wiedzy wciąż pozostaje problemem naukowym. Uważa się, że wiedza ChatGPT jest aktualizowana w miarę wprowadzania nowych wersji ChatGPT przez Open AI.
4. Mają bardzo łatwe halucynacje
Chatboty AI czasami „mają halucynacje” generując fałszywe lub bezsensowne twierdzenia z pewnością siebie, ponieważ przewidują tekst na podstawie wzorców zamiast weryfikować fakty. Błędy te wynikają ze sposobu ich działania: optymalizują spójność ponad dokładność, opierają się na niedoskonałych danych treningowych i nie rozumieją realnego świata.
Chociaż takie usprawnienia, jak narzędzia do sprawdzania faktów (na przykład integracja narzędzia wyszukiwania Bing z ChatGPT umożliwiająca sprawdzanie faktów w czasie rzeczywistym) lub monity (na przykład wyraźne polecenie ChatGPT, aby „cytował źródła recenzowane przez ekspertów” lub „powiedział Nie wiem, jeśli nie jesteś pewien”), zmniejszają halucynacje, nie są w stanie całkowicie ich wyeliminować.
5. Używają kalkulatorów do wykonywania obliczeń matematycznych
Ostatnio spopularyzowaną cechą chatbotów AI jest rozumowanie. Rozumowanie odnosi się do procesu wykorzystywania logicznie powiązanych kroków pośrednich do rozwiązywania złożonych problemów. Jest to również znane jako rozumowanie „łańcuchowe” .
Zamiast od razu przechodzić do odpowiedzi, algorytm myślowy pozwala chatbotom AI myśleć krok po kroku. Na przykład, na pytanie „ile wynosi 56 345 minus 7 865 razy 350 468”, ChatGPT podaje poprawną odpowiedź. „Rozumie”, że mnożenie musi nastąpić przed odejmowaniem.
Do rozwiązywania zadań pośrednich ChatGPT wykorzystuje wbudowany kalkulator, który umożliwia precyzyjne obliczenia arytmetyczne. To hybrydowe podejście, łączące wewnętrzne rozumowanie z kalkulatorem, pomaga zwiększyć niezawodność w złożonych zadaniach.
