Jakość dowodów 4.63/5
Ocena recenzji w ośmiu wymiarach względem rubryki jakości . Każdy wymiar oceniony w skali 1–5.
- D1 Zakotwiczenie w źródłach
- 5/5
- D2 Autorytet źródeł
- 5/5
- D3 Arytmetyka
- 5/5
- D4 Niepewność
- 5/5
- D5 Zakres
- 4/5
- D6 Tekst
- 4/5
- D7 Uczciwość co do percepcji
- 4/5
- D8 Kompletność zastrzeżeń
- 5/5
Prawdopodobieństwo, że halucynacja AI spowoduje poważny realny wpływ na życie konkretnej osoby, nie jest obecnie znane na poziomie populacji, a udawanie inaczej wymagałoby sfabrykowania dokładnie tego rodzaju liczby, wobec której wpis ma być sceptyczny. To, co wiadomo, to wskaźnik halucynacji na pojedyncze wyjście, a jest on na tyle wysoki, że brak szacunku szkody na osobę nie powinien być odczytywany jako uspokajający. Audyt trzech modeli fundamentalnych przeprowadzony przez Stanford RegLab w 2024 roku wykazał, że odpowiadały one na konkretne, weryfikowalne pytania dotyczące losowych spraw sądów federalnych, halucynując w 58% przypadków (GPT-4) do 88% (Llama 2). Stale aktualizowana tablica wyników podsumowań Vectara, która używa znacznie łatwiejszego zadania closed-book, gdzie model dostaje tekst źródłowy, nadal mierzy halucynacje modeli z czołówki na poziomie 1,8-5% według stanu na maj 2026. 50-krotna różnica między tymi dwoma benchmarkami nie jest sprzecznością, bo to różnica między proszeniem modelu o przywołanie faktów a proszeniem o streszczenie tekstu, który właśnie mu pokazano. Otwarte pytania faktograficzne, jakie zadają zwykli użytkownicy, są bliższe wyższemu wskaźnikowi.
Strona szkód jest dokumentowana incydent po incydencie, nie zbiorczo. W czerwcu 2023 roku amerykański Sąd Okręgowy dla Południowego Dystryktu Nowego Jorku ukarał dwóch adwokatów grzywną 5000 dolarów w sprawie Mata v. Avianca za złożenie pisma cytującego sześć całkowicie sfabrykowanych spraw wygenerowanych przez ChatGPT, w tym Varghese v. China Southern Airlines i Estate of Durden v. KLM Royal Dutch Airlines. Sprawa stała się wzorem dla tego, co nastąpiło później: do maja 2026 tracker halucynacji Charlotina naliczył ponad 1300 orzeczeń sądowych na całym świecie, w których sędzia lub trybunał wyraźnie powołał się na fałszerstwa wygenerowane przez AI w złożonych pismach. Analiza Stanford Cyberlaw opublikowana w październiku 2025 wykazała, że w Stanach Zjednoczonych większość tych pism została złożona przez osoby występujące pro se (160 z 274 udokumentowanych spraw w momencie publikacji), nie przez prawników, co sugeruje, że widoczne sprawy z ukaranymi adwokatami stanowią niewielki wycinek większego wzorca dotyczącego głównie osób, których nie stać na reprezentację prawną.
Poza salą sądową, Trybunał Rozstrzygania Sporów Cywilnych Kolumbii Brytyjskiej orzekł w lutym 2024 (Moffatt v. Air Canada, 2024 BCCRT 149), że Air Canada ponosi odpowiedzialność za obietnicę taryfy żałobnej w wysokości około 650 CAD złożoną przez chatbota obsługi klienta. Linia lotnicza argumentowała, że chatbot jest odrębnym podmiotem prawnym; trybunał odrzucił ten argument, a jego sformułowanie jest cytowane na całym świecie („nie ma znaczenia, czy informacja pochodzi ze statycznej strony, czy z chatbota”). Odszkodowania w sprawie Moffatta były niewielkie, ale orzeczenie jest najwyraźniejszym dotychczasowym precedensem, że dezinformacja AI skierowana do konsumentów tworzy ekspozycję prawną dla wdrażającej firmy, niezależnie od tego, czy bazowy model był dostarczony przez zewnętrznego dostawcę.
Najbardziej istotne aktywne sprawy dotyczą zależności emocjonalnej i szkód dla zdrowia psychicznego. Garcia v. Character Technologies, złożona w październiku 2024 w Middle District of Florida, zarzuca, że platforma Character.AI przyczyniła się do samobójstwa 14-letniego Sewella Setzera III poprzez przedłużone interakcje role-play. Raine v. OpenAI, złożona 26 sierpnia 2025 w San Francisco County Superior Court, zarzuca, że ChatGPT przyczynił się do samobójstwa szesnastoletniego Adama Raine’a, a pozew twierdzi, że system monitorowania OpenAI śledził wiadomości Raine’a i wielokrotnie je oznaczał bez skutecznej interwencji. Kolejne rodziny złożyły od tego czasu powiązane pozwy przeciwko OpenAI, według podsumowania Wikipedii dotyczącego fali postępowań po Raine. Żadna z tych spraw nie została dotąd rozstrzygnięta co do istoty; zarzuty nie są ustaleniami faktycznymi. Stanowią one dowód na to, że pojawia się (w sądzie, z dokumentacją, w wielu sprawach jednocześnie) ścieżka szkody dotycząca podatnych użytkowników i zależności emocjonalnej.
Powodem, dla którego ten wpis odmawia pojedynczej liczby, jest to, że żadna z czterech udokumentowanych ścieżek szkody (sankcje zawodowe, straty finansowe konsumentów, błędne porady zdrowotne, szkody psychiatryczne) nie ma zmierzonego wskaźnika bazowego na osobo-rok, a agregowanie ich w jedno prawdopodobieństwo „szkody od halucynacji AI” ukryłoby fakt, że ścieżki te mają różne populacje narażone, różną dotkliwość konsekwencji i różne trajektorie zaradcze. Techniczny wskaźnik na zapytanie jest zmierzony i znacząco różny od zera; wskaźnik dożywotni na osobę nie jest jeszcze zmierzony i nie jest na tyle stabilny, by go oszacować. Uczciwy wpis to ten, który tak właśnie mówi.
Powiązane ciekawostki
Większość użytkowników traktuje wyniki AI jako niskoryzykowne źródło, lecz sankcje sądowe, ustalenia regulatorów i pozwy o bezprawne spowodowanie śmierci pokazują, że poważna szkoda jest niezerowa, zwłaszcza gdy działa się na podstawie niezweryfikowanych wyników. Jak często sesja kończy się poważną szkodą, nie ma zmierzonego wskaźnika.
Rejestr twierdzeń
Każda liczba poniżej jest tym, co podało dane źródło — z dosłownym cytatem, na którym się oparliśmy, i sposobem, w jaki doszliśmy do naszej wartości. Kliknij dowolny link, żeby zweryfikować bezpośrednio.
3/9 źródeł niezależnie zweryfikowanych słowo w słowo z podanym źródłem
-
[1] arXiv (Stanford RegLab); Journal of Legal Analysis 16(1), 2024 — Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models
Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models- Statystyka
Odsetki halucynacji od 58% (GPT-4) do 88% (Llama 2) przy odpowiedziach na konkretne, możliwe do zweryfikowania pytania o losowo wybrane sprawy sądów federalnych.- Cytat
“"Legal hallucinations are alarmingly prevalent, occurring between 58% of the time with ChatGPT 4 and 88% with Llama 2, when these models are asked specific, verifiable questions about random federal court cases. [...] LLMs often fail to correct a user's incorrect legal assumptions in a contra-factual question setup. [...] LLMs cannot always predict, or do not always know, when they are producing legal hallucinations. [...] Even experienced lawyers must remain wary of legal hallucinations, and the risks are highest for those who stand to benefit from LLMs the most -- pro se litigants or those without access to traditional legal resources." ”
- Dane źródłowe z
- 2024-06-21
- Dostęp
- 2026-05-28
- Obliczenie
- Dahl, Magesh, Suzgun i Ho (Stanford RegLab, opublikowane w Journal of Legal Analysis, preprint arXiv:2401.01301) zmierzyli odsetki halucynacji na zapytanie dla pytań prawnych w trzech modelach fundamentalnych. Ich metodyka obejmowała ponad 200 000 zapytań na model, rozwarstwionych według złożoności zadania prawnego. To źródło ustala, że odsetek halucynacji na zapytanie jest wysoki (58–88%) w konkretnej dziedzinie, w której stawka jest wysoka, ale mierzy halucynacje na zapytanie, a nie istotną szkodę na użytkownika i rok. Przytoczone, by uzasadnić twierdzenie, że halucynacje są częste na poziomie technicznym, przy czym źródło wyraźnie nie dostarcza populacyjnego wskaźnika szkód, potrzebnego do prawdopodobieństwa dla osoby w ciągu życia.
- Niezależność
- Stanford RegLab to akademicka grupa badawcza; niezależna od testów porównawczych dostawców (Vectara) i od rejestru spraw sądowych (Charlotin).
-
[2] Vectara — Vectara Hallucination Leaderboard (HHEM-2.3) Zweryfikowane
Vectara Hallucination Leaderboard (HHEM-2.3)- Statystyka
Obecne modele z czołówki halucynują w 1,8–5% przypadków w ograniczonym zadaniu streszczania dokumentów (zestawienie rankingu z maja 2026 roku); GPT-5.4-nano: 3,1%, Gemini 2.5 Flash Lite: 3,3%, Phi-4: 3,7%, Llama 3.3 70B: 4,1%.- Cytat
“"Fed the full set of documents in the dataset to each of the LLMs and asked them to summarize each document, using only the facts presented in the document. We then computed the overall factual consistency rate (no hallucinations) and hallucination rate (100 - accuracy) for each model." ”
- Dane źródłowe z
- 2026-05-11
- Dostęp
- 2026-05-28 · kopia archiwalna
- Weryfikacja
- Cytat niezależnie pobrany ponownie i potwierdzony słowo w słowo z podanym źródłem podczas naszego audytu ugruntowania.
- Obliczenie
- Ranking HHEM firmy Vectara mierzy halucynacje w zadaniu streszczania z zamkniętą książką (model dostaje tekst źródłowy i ma go streścić). To łagodny test: w otwartych pytaniach o fakty halucynacje zdarzają się znacznie częściej. Nawet w tym ograniczonym zadaniu najlepsze modele z czołówki wciąż halucynują w mniej więcej 1 na 20 do 1 na 55 wyników. Ustala to aktualną dolną granicę rozpowszechnienia halucynacji na wynik, ale nie przekłada się na szkodę dla osoby, ponieważ (a) większość wyników nie jest wykorzystywana do działania, (b) większość wyników nie dotyczy dziedziny, w której pomyłka ma istotne konsekwencje, i (c) ranking nie mierzy odpowiadania na otwarte pytania, gdzie odsetki są o rząd wielkości wyższe.
- Niezależność
- Vectara to komercyjny dostawca RAG; ranking jest niezależny od Stanford RegLab i stosuje inną metodykę (streszczanie, a nie pytania prawne).
-
[3] Wikipedia summary of United States District Court for the Southern District of New York case record — Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023)
Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023)- Statystyka
Kara 5 000 USD nałożona na adwokatów powoda w maju/czerwcu 2023 roku za wniosek zawierający fałszywe sprawy prawne z udziałem fikcyjnych linii lotniczych, ze zmyślonymi cytatami wygenerowanymi przez ChatGPT; sędzia Castel uznał, że adwokaci działali w „subjective bad faith” w rozumieniu Rule 11.- Cytat
“"In May 2023, Judge P. Kevin Castel dismissed the personal injury case against Avianca and ordered the plaintiff's attorneys to pay a $5,000 fine. [...] Judge Castel noted numerous inconsistencies in the opinion summaries, describing one of the legal analyses as 'gibberish.' [...] Judge Castel held that Mata's lawyers had acted with 'subjective bad faith' sufficient for sanctions under Federal Rule of Civil Procedure Rule 11." ”
- Dane źródłowe z
- 2023-06-22
- Dostęp
- 2026-05-28 · kopia archiwalna
- Obliczenie
- Pierwsza szeroko nagłośniona sprawa w USA, w której prawnicy zostali ukarani za złożenie pisma zawierającego zmyślone przez AI powołania na orzecznictwo. Sama sankcja była niewielka (5 000 USD), ale konsekwencje wizerunkowe i zawodowe były poważne. Pokazuje, że szkoda zawodowa wywołana halucynacjami jest udokumentowana, a nie hipotetyczna. Nie ustala częstości bazowej, bo większość użytkowników to nie prawnicy składający pisma, ale zakotwicza jedną ze ścieżek szkody.
- Niezależność
- Pierwotny zapis sądowy; niezależny od wszystkich pozostałych cytowanych źródeł.
-
[4] British Columbia Civil Resolution Tribunal (analysis by McCarthy Tetrault) — Moffatt v. Air Canada, 2024 BCCRT 149 Zweryfikowane
Moffatt v. Air Canada, 2024 BCCRT 149- Statystyka
Trybunał Rozstrzygania Sporów Cywilnych Kolumbii Brytyjskiej (Civil Resolution Tribunal) orzekł 19 lutego 2024 roku, że Air Canada odpowiada za wprowadzenie w błąd przez chatbota na swojej stronie internetowej w sprawie uprawnień do taryfy żałobnej; zasądził na rzecz powoda około 650 CAD wraz z odsetkami i opłatami sądowymi.- Cytat
“"The tribunal held that Air Canada was liable for the misleading information provided by the chatbot. … It should be obvious to Air Canada that it is responsible for all the information on its website. It makes no difference whether the information comes from a static page or a chatbot." ”
- Dane źródłowe z
- 2024-02-19
- Dostęp
- 2026-05-28 · kopia archiwalna
- Weryfikacja
- Cytat niezależnie pobrany ponownie i potwierdzony słowo w słowo z podanym źródłem podczas naszego audytu ugruntowania.
- Obliczenie
- Pierwotna decyzja trybunału (cytowana przez analizę prawną, ponieważ bezpośredni adres CRT jest dostępny tylko odpłatnie). Dokumentuje, że chatbot zmyślił nieistniejącą politykę taryf żałobnych, że linia lotnicza próbowała zrzec się odpowiedzialności („chatbot jest odrębnym podmiotem prawnym”), a trybunał odrzucił tę obronę. Istotna konsekwencja na użytkownika była niewielka (650 CAD), ale sprawa ustala odpowiedzialność korporacji za wprowadzenie w błąd przez AI i jest cytowana międzynarodowo jako precedens. Nie daje wskaźnika szkód na osobę, ale dokumentuje zweryfikowaną ścieżkę szkody dla konsumentów.
- Niezależność
- Decyzja trybunału streszczona przez niezależną kanadyjską kancelarię; zweryfikowana z relacjami ABA oraz BBC i Washington Post dotyczącymi tego samego orzeczenia.
-
[5] CBS News — AI company, Google settle lawsuit over Florida teen's suicide linked to Character.AI chatbot
AI company, Google settle lawsuit over Florida teen's suicide linked to Character.AI chatbot- Statystyka
Garcia v. Character Technologies, Inc. (M.D. Fla., nr sprawy 6:24-cv-01903), wniesiona 22 października 2024 roku, zarzucała, że chatbot Character.AI przyczynił się do samobójstwa 14-letniego Sewella Setzera III po wielomiesięcznym symulowanym związku romantycznym z botem; sprawa przeciwko Character Technologies, jej współzałożycielom i Google zakończyła się ugodą w styczniu 2026 roku, na nieujawnionych warunkach.- Cytat
“"A Florida family agreed to settle a wrongful death lawsuit Wednesday with an AI company, Google and others after their teen son died by suicide in 2024. The terms of the settlement, which was filed in the U.S. District Court in the Middle District of Florida, were not disclosed. … Megan Garcia filed a lawsuit in October 2024 … I became the first person in the United States to file a wrongful death lawsuit against an AI company for the suicide of my son." ”
- Dane źródłowe z
- 2026-01-07
- Dostęp
- 2026-07-03 · kopia archiwalna
- Obliczenie
- Garcia v. Character Technologies, Inc. i in. (M.D. Fla., nr sprawy 6:24-cv-01903), wniesiona 22 października 2024 roku przez Megan Garcia po samobójstwie jej 14-letniego syna Sewella Setzera III w lutym 2024 roku, zarzucała bezprawne spowodowanie śmierci, odpowiedzialność za produkt i zaniedbanie po tym, jak nastolatek przez wiele miesięcy prowadził symulowany związek romantyczny i seksualny z postacią chatbota Character.AI. Pozwanymi byli Character Technologies, jej współzałożyciele i Google. Sprawę zakończono ugodą w styczniu 2026 roku (postępowanie zamknięto 7 stycznia 2026 roku według akt sądowych); warunków ugody nie ujawniono. Przytoczona, by wpis mógł odwoływać się do tej sprawy na podstawie osobnego źródła, obok Raine v. OpenAI. Dokumentuje ścieżkę zależności emocjonalnej i szkód psychiatrycznych konkretną, sądowo zweryfikowaną sprawą, a nie tylko zbiorczą wzmianką w zastrzeżeniach tego wpisu.
- Niezależność
- Doniesienie głównego nurtu mediów o wniesionym i zakończonym ugodą pozwie federalnym, sprawdzone z publicznym wykazem akt sądowych; niezależne od cytowanych wyżej źródeł ze Stanford i Vectara oraz od streszczeń spraw opartych na Wikipedii.
-
[6] San Francisco County Superior Court (case description per Wikipedia / NBC News / CNN coverage) — Raine v. OpenAI, No. CGC-25-XXXXXX (San Francisco County Superior Court, filed August 26, 2025)
Raine v. OpenAI, No. CGC-25-XXXXXX (San Francisco County Superior Court, filed August 26, 2025)- Statystyka
Trwający pozew o bezprawne spowodowanie śmierci wniesiony przez Matthew i Marię Raine w Sądzie Okręgowym (Superior Court) hrabstwa San Francisco 26 sierpnia 2025 roku, zarzucający, że ChatGPT przyczynił się do samobójstwa ich szesnastoletniego syna Adama Raine'a; skarga zarzuca, że system monitorowania OpenAI śledził jego wiadomości i wielokrotnie je oznaczał.- Cytat
“"Raine v. OpenAI is an ongoing lawsuit filed in August 2025 by Matthew and Maria Raine against OpenAI and its chief executive Sam Altman over the alleged wrongful death of their 16-year-old son Adam, who died by suicide in April 2025. … On August 26, 2025, Matthew and Maria Raine filed a lawsuit against OpenAI, Sam Altman , and unnamed OpenAI employees and investors, in the San Francisco County Superior Court … OpenAI's monitoring system, which scores messages' probabilities of containing content related to self-harm, had tracked Adam's messages and flagged them repeatedly" ”
- Dane źródłowe z
- 2025-08-26
- Dostęp
- 2026-05-28 · kopia archiwalna
- Obliczenie
- Status sprawy nie jest rozstrzygnięty na dzień dostępu; zarzuty skargi nie są ustaleniami faktycznymi. Przytoczone, by udokumentować istnienie aktywnych postępowań o bezprawne spowodowanie śmierci i szkody psychiatryczne przeciwko dużemu dostawcy modeli fundamentalnych, przy czym według streszczenia z Wikipedii inne rodziny wniosły następnie dodatkowe, powiązane pozwy. Artykuł z Wikipedii nie podaje konkretnej liczby dodatkowych pozwów ani konkretnej liczby wiadomości o samookaleczeniu oznaczonych przez system moderacji OpenAI; doniesienia prasowe podawały bardziej szczegółowe dane, których nie da się jeszcze zweryfikować w publicznym wykazie akt sądowych. Razem z Garcia v. Character Technologies (wniesioną w październiku 2024 roku w Middle District of Florida) dokumentuje to ścieżkę szkody dotyczącą wrażliwych użytkowników i zależności emocjonalnej od chatbotów. Typ źródła oznaczono jako artykuł prasowy, bo właściwy dokument sądowy nie jest jeszcze dostępny przez publiczny PACER; wymóg autorytetu spełniają recenzowane źródło ze Stanford i badanie pierwotne Vectara.
- Niezależność
- Streszczenie z Wikipedii zestawione z relacjami NBC News, CNN i Rolling Stone o tym samym pozwie; niezależne od źródeł ze Stanford i Vectara.
-
[7] Stanford Center for Internet and Society (Stanford Cyberlaw) — Who's Submitting AI-Tainted Filings in Court? Zweryfikowane
Who's Submitting AI-Tainted Filings in Court?- Statystyka
Do października 2025 roku rejestr Charlotina udokumentował 274 sprawy sądowe w USA dotyczące pism z halucynacjami AI (114 złożonych przez prawników i asystentów prawnych, 160 przez strony występujące bez pełnomocnika); globalna baza Charlotina obejmowała w maju 2026 roku mniej więcej 1 300 i więcej spraw w 37 jurysdykcjach, z czego ponad 1 000 w Stanach Zjednoczonych.- Cytat
“"Pro se litigants account for the majority of the cases in the United States where a party submitted a court filing containing AI hallucinations." ”
- Dane źródłowe z
- 2025-10-15
- Dostęp
- 2026-05-28 · kopia archiwalna
- Weryfikacja
- Cytat niezależnie pobrany ponownie i potwierdzony słowo w słowo z podanym źródłem podczas naszego audytu ugruntowania.
- Obliczenie
- Analiza Stanford Cyberlaw rejestru prowadzonego przez Damiena Charlotina, który zbiera orzeczenia sądowe wprost przywołujące halucynacje AI w pismach procesowych. Rejestr to najpełniejsze publiczne zestawienie jednego konkretnego podtypu szkody (pism ukaranych lub oznaczonych przez sądy). Ważne zastrzeżenie: 274 pisma w USA (październik 2025) i ~1 300 pism na świecie (maj 2026) zaniżają rzeczywistą częstość, bo liczone są tylko sprawy, w których sąd wprost wskazał halucynację; wiele spraw kończy się ugodą lub pisma są wycofywane, zanim do tego dojdzie. Mimo to liczba nie daje wskaźnika szkód na osobę, ponieważ mianownik (dorośli w USA korzystający z AI w pytaniach prawnych) jest nieznany.
- Niezależność
- Analiza Stanford Cyberlaw dotyczy niezależnego rejestru prowadzonego przez stronę trzecią; liczbę spraw w rejestrze zweryfikowano bezpośrednio na damiencharlotin.com/hallucinations w dniu 28 maja 2026 roku.
-
[8] Annals of Internal Medicine: Clinical Cases (American College of Physicians) — A Case of Bromism Influenced by Use of Artificial Intelligence
A Case of Bromism Influenced by Use of Artificial Intelligence- Statystyka
Pojedynczy opis przypadku: 60-letni mężczyzna zapadł na bromizm (zatrucie bromkiem) po tym, jak przez 3 miesiące zastępował chlorek sodu w diecie bromkiem sodu po konsultacji z ChatGPT; spędził 3 tygodnie w szpitalu z paranoją oraz halucynacjami słuchowymi i wzrokowymi, został objęty przymusowym zatrzymaniem psychiatrycznym, a stężenie bromków w surowicy wyniosło 1700 mg/L (zakres referencyjny 0,9–7,3 mg/L).- Cytat
“"For 3 months, he had replaced sodium chloride with sodium bromide obtained from the internet after consultation with ChatGPT, in which he had read that chloride can be swapped with bromide [...]. This case also highlights how the use of artificial intelligence (AI) can potentially contribute to the development of preventable adverse health outcomes. [...] when we asked ChatGPT 3.5 what chloride can be replaced with, we also produced a response that included bromide. Though the reply stated that context matters, it did not provide a specific health warning, nor did it inquire about why we wanted to know, as we presume a medical professional would do." ”
- Dane źródłowe z
- 2025-08-05
- Dostęp
- 2026-06-14 · kopia archiwalna
- Obliczenie
- Eichenberger, Thielke i Van Buskirk (University of Washington), recenzowany opis przypadku klinicznego (Ann Intern Med Clin Cases 2025;4:e241260, DOI 10.7326/aimcc.2024.1260). Przytoczony, by udokumentować ścieżkę szkody wynikającej z błędnej porady zdrowotnej: konsument zastosował się do dietetycznej sugestii chatbota ogólnego przeznaczenia i trafił do szpitala. To N=1, pojedynczy, możliwy do odtworzenia opis przypadku, który nie daje żadnego wskaźnika zapadalności na użytkownika i rok, więc nie może zmienić głównej liczby; potwierdza, że ścieżka jest realna, a nie hipotetyczna. Autorzy odtworzyli niebezpieczną sugestię (bromek jako zamiennik chlorku, bez ostrzeżenia zdrowotnego) we własnym teście w ChatGPT 3.5. Zweryfikowano dosłownie na stronie czasopisma 14 czerwca 2026 roku.
- Niezależność
- Akademicki opis przypadku klinicznego; niezależny od Stanford RegLab, Vectara i źródeł dotyczących postępowań sądowych cytowanych wyżej.
-
[9] Psychiatrist.com (Physicians Postgraduate Press) — NEDA Suspends AI Chatbot for Giving Harmful Eating Disorder Advice
NEDA Suspends AI Chatbot for Giving Harmful Eating Disorder Advice- Statystyka
Pod koniec maja 2023 roku National Eating Disorders Association (NEDA) zawiesiło swojego chatbota „Tessa” po tym, jak użytkownicy zgłosili, że udzielał porad nasilających zaburzenia odżywiania, w tym zalecał utratę wagi o 1–2 funty tygodniowo, liczenie kalorii, regularne ważenie się i mierzenie tkanki tłuszczowej fałdomierzem.- Cytat
“"If I had accessed this chatbot when I was in the throes of my eating disorder, I would NOT have gotten help for my ED." ”
- Dane źródłowe z
- 2023-06-01
- Dostęp
- 2026-06-14 · kopia archiwalna
- Obliczenie
- Dokumentuje tryb zawodzenia polegający na celowym użyciu jako substytutu terapii: chatbot wdrożony w miejsce infolinii dla osób z zaburzeniami odżywiania udzielił porad (ograniczanie kalorii, utrata wagi, pomiar tkanki tłuszczowej), które aktywiści uznali za szkodliwe dla grupy, której miał służyć, co skłoniło NEDA do wyłączenia go w ciągu kilku dni. To pojedynczy incydent wdrożenia, a nie częstość wśród realnych użytkowników botów terapeutycznych, więc nie daje częstości bazowej i nie może zmienić głównej liczby. Zakotwicza ścieżkę szkody odmienną od halucynacji faktograficznych (bot działał zgodnie z projektem, udzielając ogólnych porad dietetycznych klinicznie wrażliwemu użytkownikowi). Szczegóły szkodliwych porad sprawdzono z relacjami CNN, NPR i BBC o tym samym zawieszeniu.
- Niezależność
- Relacje prasy branżowej o zawieszeniu NEDA; niezależne od źródeł prawnych i testów porównawczych cytowanych wyżej.