Autor „Czarnego łabędzia” Nassim Taleb publikuje na czacie ważne ostrzeżenie przed GPT

Jako inwestor kryptowalut i entuzjasta technologii z doświadczeniem w zarządzaniu ryzykiem uważam, że ostrzeżenia Nassima Nicholasa Taleba i Edwarda Snowdena dotyczące ChatGPT są dość niepokojące. Chociaż jestem zagorzałym zwolennikiem Bitcoina i innych kryptowalut ze względu na ich potencjał zakłócania tradycyjnych systemów finansowych, zdaję sobie również sprawę, jak ważne jest zrozumienie ryzyka związanego z nowymi technologiami.


Jako wnikliwy obserwator i analityk złożonych systemów z uwagą śledziłem prace znanego uczonego Nassima Nicholasa Taleba, znanego z wpływowych książek, takich jak „Czarny łabędź” i „Antifragile”. Niedawno ten krytyk Bitcoina wydał znaczące ostrzeżenie dotyczące przełomowego produktu OpenAI, ChatGPT.

W ubiegły piątek Edward Snowden wydał ostrzejsze ostrzeżenie w porównaniu z ostrzeżeniem Taleba.

Nassim Taleb krytykuje ChatGPT

Jako ekspert w zakresie zarządzania ryzykiem i finansów zawsze intrygowały mnie nowoczesne technologie i ich potencjalne zastosowania. Nie mogę jednak powstrzymać się od wytknięcia dziur w ich pozornie nieskazitelnych projektach. Kiedyś całym sercem wspierałem Bitcoin, teraz wyrażam swoje obawy w związku z ostatnim szumem wokół sztucznej inteligencji. W szczególności ostatnio omówiłem bota ChatGPT OpenAI, dzieląc się szczerymi przemyśleniami na temat jego implikacji i ograniczeń.

Tylko przypomnienie, że ChatGpt ma modus: „kiedy nie wiesz, bzdury”.

— Nassim Nicholas Taleb (@nntaleb) 16 czerwca 2024 r.

Taleb podkreślił ograniczenia konwersacji chatbota AI, udostępniając migawkę ich wymiany zdań. Zauważył, że bot nie miał możliwości potwierdzenia, że ​​nie posiada odpowiedzi na konkretne zapytania użytkowników.

Jako analityk ująłbym to w następujący sposób: Kiedy dotarło do mnie zapytanie dotyczące łacińskiego imienia św. Sassine’a, wczesnochrześcijańskiego męczennika, przydzielono mi zadanie. Po ogłoszeniu przez Konstantyna chrześcijaństwa oficjalną religią Cesarstwa Rzymskiego ta szanowana postać zyskała na znaczeniu i zyskała uznanie wśród ojców Kościoła.

Na zrzucie ekranu Taleb wielokrotnie odpowiadał „nie” na odpowiedzi proponowane przez ChatGPT, ale oprogramowanie nadal generowało alternatywne odpowiedzi, próbując odpowiedzieć na zapytanie Taleba.

Autor „Black Swan” zamieścił na Twitterze informację, że ChatGPT może generować bezsensowne odpowiedzi w przypadku pytań, na które nie jest w stanie udzielić dokładnej odpowiedzi.

Ostrzeżenie Edwarda Snowdena, aby unikać korzystania z ChatGPT

W ubiegły piątek Edward Snowden, były analityk NSA, który stał się sygnalistą, na Twitterze wyraził swoją krytykę dotyczącą rozwiązania ChatGPT opracowanego przez OpenAI.

Poinformował on społeczność, aby unikała korzystania z ChatGPT po ujawnieniu informacji, że Paul Nakasone, były szef Agencji Bezpieczeństwa Narodowego (NSA), dołączył do zarządu OpenAI.

Około 15 lat temu Snowden odkrył fakt, że NSA potajemnie współpracowała z głównymi amerykańskimi firmami technologicznymi, umożliwiając im dostęp do danych komunikacyjnych użytkowników.

Przy tej okazji wyraźnie wyraził swoje zaniepokojenie faktem, że OpenAI zdjęło wszelkie maski, ujawniając wszystkim potencjalne zagrożenia. Potępił nominację Nakasone jako celowy i szkodliwy czyn naruszający prawa każdej osoby na całym świecie. Zdecydowanie doradził członkom społeczności X, aby powstrzymali się od korzystania z OpenAI lub jakichkolwiek powiązanych produktów, takich jak ChatGPT.

2024-06-17 13:48