CTO Ripple zwraca uwagę na poważny problem ze sztuczną inteligencją

Jako doświadczony badacz żywo zainteresowany technologią i jej konsekwencjami, zwłaszcza w dziedzinie sztucznej inteligencji, jestem głęboko zaniepokojony najnowszymi kontrowersjami dotyczącymi sztucznej inteligencji, związanymi z produkcją potencjalnie niebezpiecznych książek niskiej jakości. Historia Davida Schwartza udostępniającego wirusowy post na Reddicie na temat rodziny otrutej książką identyfikacyjną grzybów wygenerowaną przez sztuczną inteligencję jest co najmniej mrożąca krew w żyłach.

David Schwartz, dyrektor ds. technicznych w Ripple, niedawno nagłośnił niedawną debatę na temat sztucznej inteligencji na swoich platformach mediów społecznościowych.

Schwartz zamieścił szeroko udostępniany wątek na Reddicie, twierdząc, że rodzina doświadczyła zatrucia po zaufaniu przewodnikowi identyfikacji grzybów stworzonemu przez sztuczną inteligencję, co doprowadziło do ich choroby.

Na plakacie na Reddicie można było przeczytać, że po spożyciu trujących grzybów cała rodzina trafiła do szpitala.

Z doniesień wynika, że ​​książka została zakupiona w znanym sklepie. Jednak po bliższym przyjrzeniu się odkryto, że znajdujące się w środku obrazy zostały prawdopodobnie stworzone przez sztuczną inteligencję i przedstawiały grzyby. Co więcej, biorąc pod uwagę powtarzalność i schematyczny charakter niektórych fragmentów, jest prawdopodobne, że tekst tej książki mógł zostać napisany przy pomocy sztucznej inteligencji i zawierał nawet frazy przypominające odpowiedzi chatbota.

Pomimo zgody sprzedawcy na zwrot kosztu książki, nadal istnieją obawy dotyczące innych książek o niskiej jakości, które w dalszym ciągu są sprzedawane na jego stronie internetowej.

Redditor zastanawiał się, czy nie byłoby możliwości zgłoszenia władzom takiego niedbalstwa w stosunku do treści książki w celu pociągnięcia autorów do odpowiedzialności.

„Jeśli ten raport jest prawdziwy, to historia się powtórzy” – stwierdził Schwartz w swoim poście w mediach społecznościowych.

W sprawie wspomnianej przez dyrektora Ripple, która sięga 1991 r. i jest znana jako Winter przeciwko G.P. Putnam’s Sons, dwie osoby zakupiły książkę zatytułowaną „The Encyclopedia of Mushrooms” w celach informacyjnych.

Przewodnik zawierał obszerne informacje o tym, gdzie znaleźć grzyby, jak je zbierać i jak je przyrządzać. Brytyjska książka była dystrybuowana przez GP Putnam’s Sons, amerykańskiego wydawcę książek z siedzibą w Nowym Jorku. Po przeczytaniu książki para poważnie zachorowała (do tego stopnia, że ​​konieczna była transplantacja wątroby).

W sporze prawnym para podjęła działania przeciwko P. Putnam’s Sons, zarzucając odpowiedzialność za produkt, zaniedbanie i wprowadzenie w błąd z powodu niedokładnych informacji w ich przewodniku identyfikacji grzybów. Niestety, te błędne dane niemal doprowadziły do ​​śmierci myśliwych. Jednak ostatecznie sąd wydał w tej sprawie wyrok korzystny dla wydawcy.

Nadmierna ilość kiepskiej literatury stworzonej przez sztuczną inteligencję może skomplikować sprawę czytelnikom poszukującym wiarygodnych danych, ponieważ mogą napotkać więcej kłamstw.

2024-08-18 13:51