Chất lượng bằng chứng 4.63/5
Điểm đánh giá tám chiều theo tiêu chí chất lượng . Mỗi chiều được chấm từ 1–5.
- D1 Cơ sở nguồn
- 5/5
- D2 Uy tín nguồn
- 5/5
- D3 Tính toán
- 5/5
- D4 Sự không chắc chắn
- 5/5
- D5 Phạm vi
- 4/5
- D6 Văn bản
- 4/5
- D7 Sự trung thực về nhận thức
- 4/5
- D8 Tính đầy đủ của lưu ý
- 5/5
Xác suất một ảo giác AI gây ra tác động nghiêm trọng đến cuộc sống của một người cụ thể hiện chưa được biết ở cấp độ dân số, và giả vờ ngược lại sẽ đòi hỏi phải bịa ra chính loại con số mà bài viết này muốn tỏ ra hoài nghi. Điều đã biết là tỷ lệ ảo giác trên mỗi đầu ra, và nó đủ cao để sự vắng mặt của một ước tính tổn hại trên mỗi người không nên được hiểu là sự trấn an. Cuộc đánh giá năm 2024 của Stanford RegLab về ba mô hình nền tảng cho thấy chúng trả lời các câu hỏi cụ thể có thể xác minh về các vụ án tòa án liên bang ngẫu nhiên với ảo giác từ 58% (GPT-4) đến 88% (Llama 2). Bảng xếp hạng tóm tắt được cập nhật liên tục của Vectara, sử dụng một nhiệm vụ sách-đóng dễ hơn nhiều, trong đó mô hình được giao văn bản nguồn, vẫn đo các mô hình tiền tuyến ở mức ảo giác 1.8-5% tính đến tháng 5 năm 2026. Khoảng cách 50 lần giữa hai chuẩn này không phải là một mâu thuẫn: đó là sự khác biệt giữa việc yêu cầu mô hình nhớ lại sự kiện và yêu cầu nó tóm tắt văn bản vừa được đưa cho. Các câu hỏi sự kiện mở rộng, loại mà người dùng thông thường đặt ra, gần với tỷ lệ cao hơn.
Mặt tổn hại được ghi nhận từng vụ một, không phải tổng hợp. Vào tháng 6 năm 2023, Tòa án Quận Hoa Kỳ cho Quận phía Nam của New York đã trừng phạt hai luật sư 5,000 đô la trong vụ Mata v. Avianca vì đã nộp một văn bản trích dẫn sáu vụ án hoàn toàn bịa đặt do ChatGPT tạo ra, bao gồm Varghese v. China Southern Airlines và Estate of Durden v. KLM Royal Dutch Airlines. Vụ án này là khuôn mẫu cho những gì xảy ra tiếp theo: đến tháng 5 năm 2026, công cụ theo dõi ảo giác Charlotin đã đếm được hơn 1,300 phán quyết tòa án trên toàn thế giới mà thẩm phán hoặc tòa án rõ ràng trích dẫn các sai sự thật do AI tạo ra trong các văn bản đệ trình. Một phân tích của Stanford Cyberlaw công bố vào tháng 10 năm 2025 cho thấy ở Hoa Kỳ phần lớn các văn bản đó được nộp bởi các đương sự tự đại diện (pro se litigants — 160 trong số 274 vụ được ghi nhận tại thời điểm viết bài), không phải bởi các luật sư, cho thấy các vụ có thể nhìn thấy liên quan đến luật sư bị trừng phạt là một lát cắt nhỏ của một mô hình lớn hơn chủ yếu ảnh hưởng đến những người không thể đại diện tự thuê.
Bên ngoài tòa án, Tòa án Giải quyết Tranh chấp Dân sự British Columbia đã phán quyết vào tháng 2 năm 2024 (Moffatt v. Air Canada, 2024 BCCRT 149) rằng Air Canada phải chịu trách nhiệm cho lời hứa khoảng 650 CAD về giá vé tang lễ do chatbot dịch vụ khách hàng của hãng đưa ra. Hãng hàng không lập luận rằng chatbot là một thực thể pháp lý riêng biệt; tòa án không đồng ý bằng ngôn ngữ đã được trích dẫn quốc tế (“không có gì khác biệt cho dù thông tin đến từ một trang tĩnh hay một chatbot”). Thiệt hại Moffatt nhỏ nhưng phán quyết là tiền lệ rõ ràng nhất hiện có rằng thông tin sai do AI hướng đến người tiêu dùng tạo ra rủi ro pháp lý cho công ty triển khai, bất kể mô hình cơ sở có do bên cung cấp hay không.
Các vụ án đang hoạt động có ý nghĩa nhất liên quan đến sự phụ thuộc cảm xúc và tổn hại sức khỏe tâm thần. Garcia v. Character Technologies, được nộp vào tháng 10 năm 2024 tại Quận Trung của Florida, cáo buộc rằng nền tảng Character.AI đã góp phần vào cái chết tự sát của Sewell Setzer III 14 tuổi thông qua các tương tác đóng vai kéo dài. Raine v. OpenAI, được nộp vào ngày 26 tháng 8 năm 2025 tại Tòa Thượng thẩm Quận San Francisco, cáo buộc rằng ChatGPT đã góp phần vào cái chết tự sát của Adam Raine mười sáu tuổi, với đơn kiện khẳng định rằng hệ thống giám sát của OpenAI đã theo dõi các tin nhắn của Raine và đánh dấu chúng nhiều lần mà không có sự can thiệp hiệu quả. Các gia đình khác đã nộp các đơn kiện liên quan chống lại OpenAI kể từ đó, theo bản tóm tắt Wikipedia về làn sóng kiện tụng sau Raine. Không vụ nào trong số này đã được phán quyết về nội dung tại thời điểm viết bài; các cáo buộc không phải là kết luận về sự thật. Chúng là bằng chứng cho thấy con đường tổn hại liên quan đến người dùng dễ bị tổn thương và sự phụ thuộc cảm xúc đang được khẳng định, tại tòa án, có tài liệu, trong nhiều vụ đồng thời.
Lý do bài viết này từ chối đưa ra một con số duy nhất là không có con đường tổn hại nào trong bốn con đường được ghi nhận (trừng phạt nghề nghiệp, tổn thất tài chính của người tiêu dùng, lời khuyên sức khỏe sai, tổn hại tâm thần) có tỷ lệ cơ sở được đo lường trên mỗi người dùng-năm, và việc tổng hợp chúng thành một xác suất “tổn hại do ảo giác AI” duy nhất sẽ che giấu việc các con đường có dân số phơi nhiễm khác nhau, mức độ nghiêm trọng hậu quả khác nhau và quỹ đạo khắc phục khác nhau. Tỷ lệ kỹ thuật trên mỗi truy vấn được đo lường và khác không một cách có ý nghĩa; tỷ lệ trên mỗi người trong đời chưa được đo lường và chưa đủ ổn định để ước tính. Bài viết trung thực là bài nói rõ như vậy.
Thông tin liên quan
Phần lớn người dùng coi đầu ra của AI là tài liệu tham khảo ít rủi ro, nhưng các chế tài tòa án, kết luận của cơ quan quản lý và vụ kiện gây chết oan cho thấy tác hại nghiêm trọng khác không, nhất là khi hành động theo đầu ra chưa kiểm chứng. Một phiên kết thúc bằng tác hại nghiêm trọng thường xuyên ra sao thì không có tỷ lệ đo được.
Sổ cái xác nhận
Mỗi con số dưới đây là những gì mỗi nguồn đã báo cáo, cùng với trích dẫn nguyên văn mà chúng tôi dựa vào và cách chúng tôi đưa ra con số của mình. Nhấp vào bất kỳ liên kết nào để xác minh trực tiếp.
3/9 nguồn được xác minh độc lập đúng từng chữ so với nguồn được trích dẫn
-
[1] arXiv (Stanford RegLab); Journal of Legal Analysis 16(1), 2024 — Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models
Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models- Thống kê
Hallucination rates of 58% (GPT-4) to 88% (Llama 2) when answering specific verifiable questions about random federal court cases.- Trích đoạn
“"Legal hallucinations are alarmingly prevalent, occurring between 58% of the time with ChatGPT 4 and 88% with Llama 2, when these models are asked specific, verifiable questions about random federal court cases. [...] LLMs often fail to correct a user's incorrect legal assumptions in a contra-factual question setup. [...] LLMs cannot always predict, or do not always know, when they are producing legal hallucinations. [...] Even experienced lawyers must remain wary of legal hallucinations, and the risks are highest for those who stand to benefit from LLMs the most -- pro se litigants or those without access to traditional legal resources." ”
- Dữ liệu nguồn từ
- 2024-06-21
- Truy cập
- 2026-05-28
- Tính toán
- Dahl, Magesh, Suzgun and Ho (Stanford RegLab, published in Journal of Legal Analysis, preprint arXiv:2401.01301) measured per-query hallucination rates for legal questions against three foundation models. Their methodology was 200,000+ queries per model stratified by legal task complexity. This source establishes that the per-query hallucination rate is high (58-88%) in a specific high-stakes domain, but it measures hallucination per query, not material harm per user-year. Cited here to ground the claim that hallucinations are frequent at the technical level, while explicitly NOT providing the population harm rate needed for a per-person lifetime probability.
- Độc lập
- Stanford RegLab is an academic research group; independent of vendor benchmarks (Vectara) and independent of the litigation tracker (Charlotin).
-
[2] Vectara — Vectara Hallucination Leaderboard (HHEM-2.3) Đã xác minh
Vectara Hallucination Leaderboard (HHEM-2.3)- Thống kê
Current frontier models hallucinate 1.8% to 5% of the time on a constrained document-summarization task (May 2026 leaderboard snapshot); GPT-5.4-nano: 3.1%, Gemini 2.5 Flash Lite: 3.3%, Phi-4: 3.7%, Llama 3.3 70B: 4.1%.- Trích đoạn
“"Fed the full set of documents in the dataset to each of the LLMs and asked them to summarize each document, using only the facts presented in the document. We then computed the overall factual consistency rate (no hallucinations) and hallucination rate (100 - accuracy) for each model." ”
- Dữ liệu nguồn từ
- 2026-05-11
- Truy cập
- 2026-05-28 · bản sao lưu trữ
- Xác minh
- Trích đoạn đã được tải lại độc lập và xác nhận đúng từng chữ so với nguồn được trích dẫn trong quá trình kiểm định căn cứ của chúng tôi.
- Tính toán
- Vectara's HHEM leaderboard measures hallucination on a closed-book summarization task (the model is given source text and must summarize it). This is a generous benchmark: open-ended factual questions hallucinate far more often. Even on this constrained task, the best frontier models still hallucinate roughly 1 in 20 to 1 in 55 outputs. Establishes a current floor on hallucination prevalence per output, but does NOT translate to per-person harm because (a) most outputs are not acted on, (b) most outputs are not in a domain where being wrong has material consequences, and (c) the leaderboard does not measure open-ended question answering, where rates are an order of magnitude higher.
- Độc lập
- Vectara is a commercial RAG vendor; the leaderboard is independent of Stanford RegLab and uses a different methodology (summarization, not legal QA).
-
[3] Wikipedia summary of United States District Court for the Southern District of New York case record — Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023)
Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023)- Thống kê
$5,000 fine against the plaintiff's attorneys in May/June 2023 for a motion containing fake legal cases involving fictitious airlines with fabricated quotations generated by ChatGPT; Judge Castel held the attorneys acted with 'subjective bad faith' under Rule 11.- Trích đoạn
“"In May 2023, Judge P. Kevin Castel dismissed the personal injury case against Avianca and ordered the plaintiff's attorneys to pay a $5,000 fine. [...] Judge Castel noted numerous inconsistencies in the opinion summaries, describing one of the legal analyses as 'gibberish.' [...] Judge Castel held that Mata's lawyers had acted with 'subjective bad faith' sufficient for sanctions under Federal Rule of Civil Procedure Rule 11." ”
- Dữ liệu nguồn từ
- 2023-06-22
- Truy cập
- 2026-05-28 · bản sao lưu trữ
- Tính toán
- First widely publicised US court case where lawyers were sanctioned for filing a brief containing AI-fabricated case citations. The sanction itself was small ($5,000), but the reputational and professional consequences were severe. Establishes that hallucination-induced professional harm is documented and not hypothetical. Does NOT establish a base rate because most users are not lawyers filing briefs, but it anchors one of the harm pathways.
- Độc lập
- Primary court record; independent of all other sources cited.
-
[4] British Columbia Civil Resolution Tribunal (analysis by McCarthy Tetrault) — Moffatt v. Air Canada, 2024 BCCRT 149 Đã xác minh
Moffatt v. Air Canada, 2024 BCCRT 149- Thống kê
British Columbia Civil Resolution Tribunal ruled on February 19, 2024 that Air Canada was liable for the misrepresentation made by its website chatbot about bereavement fare eligibility; awarded the plaintiff approximately CAD 650 plus interest and filing fees.- Trích đoạn
“"The tribunal held that Air Canada was liable for the misleading information provided by the chatbot. … It should be obvious to Air Canada that it is responsible for all the information on its website. It makes no difference whether the information comes from a static page or a chatbot." ”
- Dữ liệu nguồn từ
- 2024-02-19
- Truy cập
- 2026-05-28 · bản sao lưu trữ
- Xác minh
- Trích đoạn đã được tải lại độc lập và xác nhận đúng từng chữ so với nguồn được trích dẫn trong quá trình kiểm định căn cứ của chúng tôi.
- Tính toán
- Primary tribunal decision (cited via legal analysis because the CRT direct URL is paywalled). Documents that the chatbot fabricated a bereavement-fare policy that did not exist, that the airline tried to disavow responsibility ("the chatbot is a separate legal entity"), and that the tribunal rejected that defence. Material consequence per user was small (CAD 650), but the case establishes corporate liability for AI misrepresentation and has been cited internationally as precedent. Does not provide a per-person harm rate, but documents a verified consumer-facing harm pathway.
- Độc lập
- Tribunal decision summarized by an independent Canadian law firm; verified against ABA reporting and BBC/Washington Post coverage of the same ruling.
-
[5] CBS News — AI company, Google settle lawsuit over Florida teen's suicide linked to Character.AI chatbot
AI company, Google settle lawsuit over Florida teen's suicide linked to Character.AI chatbot- Thống kê
Garcia v. Character Technologies, Inc. (M.D. Fla., case no. 6:24-cv-01903), filed October 22, 2024, alleged that a Character.AI chatbot contributed to the suicide of 14-year-old Sewell Setzer III after a months-long simulated romantic relationship with the bot; the case against Character Technologies, its co-founders, and Google was settled in January 2026, terms undisclosed.- Trích đoạn
“"A Florida family agreed to settle a wrongful death lawsuit Wednesday with an AI company, Google and others after their teen son died by suicide in 2024. The terms of the settlement, which was filed in the U.S. District Court in the Middle District of Florida, were not disclosed. … Megan Garcia filed a lawsuit in October 2024 … I became the first person in the United States to file a wrongful death lawsuit against an AI company for the suicide of my son." ”
- Dữ liệu nguồn từ
- 2026-01-07
- Truy cập
- 2026-07-03 · bản sao lưu trữ
- Tính toán
- Garcia v. Character Technologies, Inc. et al. (M.D. Fla., case no. 6:24-cv-01903), filed October 22, 2024 by Megan Garcia following the February 2024 suicide of her 14-year-old son Sewell Setzer III, alleged wrongful death, product liability, and negligence after the teenager conducted a months-long simulated romantic and sexual relationship with a Character.AI chatbot persona. Named defendants included Character Technologies, its co-founders, and Google. The case was settled in January 2026 (docket terminated 2026-01-07 per court records); settlement terms were not disclosed. Cited to ground the body's reference to this case with a dedicated source, alongside Raine v. OpenAI, documenting the emotional-dependence/psychiatric-harm pathway with a named, court-verified case rather than only the summary mention in this entry's caveats field.
- Độc lập
- Mainstream news report of a filed and settled federal lawsuit, cross-checked against the public court docket; independent of the Stanford, Vectara, and Wikipedia-sourced case summaries cited above.
-
[6] San Francisco County Superior Court (case description per Wikipedia / NBC News / CNN coverage) — Raine v. OpenAI, No. CGC-25-XXXXXX (San Francisco County Superior Court, filed August 26, 2025)
Raine v. OpenAI, No. CGC-25-XXXXXX (San Francisco County Superior Court, filed August 26, 2025)- Thống kê
Ongoing wrongful-death lawsuit filed by Matthew and Maria Raine in San Francisco County Superior Court on August 26, 2025, alleging that ChatGPT contributed to the suicide of their sixteen-year-old son Adam Raine; complaint alleges OpenAI's monitoring system tracked his messages and flagged them repeatedly.- Trích đoạn
“"Raine v. OpenAI is an ongoing lawsuit filed in August 2025 by Matthew and Maria Raine against OpenAI and its chief executive Sam Altman over the alleged wrongful death of their 16-year-old son Adam, who died by suicide in April 2025. … On August 26, 2025, Matthew and Maria Raine filed a lawsuit against OpenAI, Sam Altman , and unnamed OpenAI employees and investors, in the San Francisco County Superior Court … OpenAI's monitoring system, which scores messages' probabilities of containing content related to self-harm, had tracked Adam's messages and flagged them repeatedly" ”
- Dữ liệu nguồn từ
- 2025-08-26
- Truy cập
- 2026-05-28 · bản sao lưu trữ
- Tính toán
- Case status is unresolved as of access date; complaint allegations are not findings of fact. Cited to document the existence of active wrongful-death and psychiatric-harm litigation against a major foundation-model vendor, with additional related suits subsequently filed by other families per the Wikipedia summary. The Wikipedia article does not give a specific count of additional suits or a specific count of self-harm messages flagged by OpenAI's moderation system; reporting in news outlets has cited higher specifics that are not yet verifiable against a public court docket. Together with Garcia v. Character Technologies (filed October 2024 in the Middle District of Florida), establishes a documented harm pathway involving vulnerable users and emotional dependence on chatbots. Source type marked news_article because the underlying court filing is not yet available via public PACER; the Stanford peer-reviewed and Vectara primary-study sources satisfy the authority floor.
- Độc lập
- Wikipedia summary cross-referenced against NBC News, CNN, and Rolling Stone reporting on the same lawsuit; independent of the Stanford and Vectara sources.
-
[7] Stanford Center for Internet and Society (Stanford Cyberlaw) — Who's Submitting AI-Tainted Filings in Court? Đã xác minh
Who's Submitting AI-Tainted Filings in Court?- Thống kê
As of October 2025, the Charlotin tracker had documented 274 US court cases involving filings with AI hallucinations (114 by lawyers and paralegals, 160 by pro se litigants); the global Charlotin database tracked roughly 1,300+ cases as of May 2026 across 37 jurisdictions, with the United States accounting for over 1,000 of those.- Trích đoạn
“"Pro se litigants account for the majority of the cases in the United States where a party submitted a court filing containing AI hallucinations." ”
- Dữ liệu nguồn từ
- 2025-10-15
- Truy cập
- 2026-05-28 · bản sao lưu trữ
- Xác minh
- Trích đoạn đã được tải lại độc lập và xác nhận đúng từng chữ so với nguồn được trích dẫn trong quá trình kiểm định căn cứ của chúng tôi.
- Tính toán
- Stanford Cyberlaw analysis of Damien Charlotin's running tracker of court rulings that explicitly cite AI hallucinations in legal filings. The tracker is the most comprehensive public count of one specific harm subtype (filings sanctioned or flagged by courts). Important caveat: 274 US filings (Oct 2025) and ~1,300 global filings (May 2026) understate the underlying incidence because they only count cases where a court explicitly named the hallucination; many cases settle or get withdrawn before that point. Even so, the count does not give a per-person harm rate because the denominator (US adults using AI for legal queries) is unknown.
- Độc lập
- Stanford Cyberlaw analysis of an independent third-party tracker; verified the tracker count directly via damiencharlotin.com/hallucinations on 2026-05-28.
-
[8] Annals of Internal Medicine: Clinical Cases (American College of Physicians) — A Case of Bromism Influenced by Use of Artificial Intelligence
A Case of Bromism Influenced by Use of Artificial Intelligence- Thống kê
Single case report: a 60-year-old man developed bromism (bromide toxicity) after replacing dietary sodium chloride with sodium bromide for 3 months following a ChatGPT consultation; he was hospitalized for 3 weeks with paranoia plus auditory and visual hallucinations, was placed on an involuntary psychiatric hold, and had a serum bromide level of 1700 mg/L (reference range 0.9 to 7.3 mg/L).- Trích đoạn
“"For 3 months, he had replaced sodium chloride with sodium bromide obtained from the internet after consultation with ChatGPT, in which he had read that chloride can be swapped with bromide [...]. This case also highlights how the use of artificial intelligence (AI) can potentially contribute to the development of preventable adverse health outcomes. [...] when we asked ChatGPT 3.5 what chloride can be replaced with, we also produced a response that included bromide. Though the reply stated that context matters, it did not provide a specific health warning, nor did it inquire about why we wanted to know, as we presume a medical professional would do." ”
- Dữ liệu nguồn từ
- 2025-08-05
- Truy cập
- 2026-06-14 · bản sao lưu trữ
- Tính toán
- Eichenberger, Thielke and Van Buskirk (University of Washington), peer-reviewed clinical case report (Ann Intern Med Clin Cases 2025;4:e241260, DOI 10.7326/aimcc.2024.1260). Cited to document the physical-health-misadvice harm pathway: a consumer acted on a general-purpose chatbot's dietary suggestion and was hospitalized. This is N=1, a single reproducible case report, and provides NO incidence rate per user-year, so it cannot move the headline — it confirms the pathway is real rather than hypothetical. The authors reproduced the unsafe suggestion (bromide as a chloride substitute, no health warning) in their own ChatGPT 3.5 test. Verified verbatim via the journal page on 2026-06-14.
- Độc lập
- Academic clinical case report; independent of the Stanford RegLab, Vectara, and litigation sources cited above.
-
[9] Psychiatrist.com (Physicians Postgraduate Press) — NEDA Suspends AI Chatbot for Giving Harmful Eating Disorder Advice
NEDA Suspends AI Chatbot for Giving Harmful Eating Disorder Advice- Thống kê
In late May 2023 the National Eating Disorders Association (NEDA) suspended its 'Tessa' chatbot after users reported it gave eating-disorder-aggravating advice, including recommending weight loss of 1 to 2 pounds per week, calorie counting, regular weigh-ins, and measuring body fat with calipers.- Trích đoạn
“"If I had accessed this chatbot when I was in the throes of my eating disorder, I would NOT have gotten help for my ED." ”
- Dữ liệu nguồn từ
- 2023-06-01
- Truy cập
- 2026-06-14 · bản sao lưu trữ
- Tính toán
- Documents the deliberate-use-as-therapy-substitute failure mode: a chatbot deployed to stand in for a human eating-disorder helpline gave advice (calorie restriction, weight loss, body-fat measurement) that activists reported as harmful for the exact population it served, prompting NEDA to take it offline within days. This is a single deployment incident, not an incidence rate among real therapy-bot users, so it provides NO base rate and cannot move the headline — it anchors a harm pathway distinct from factual hallucination (the bot was working as designed, giving generic diet advice to a clinically vulnerable user). The harmful-advice specifics were cross-checked against CNN, NPR, and BBC reporting on the same suspension.
- Độc lập
- Trade-press reporting on the NEDA suspension; independent of the legal and benchmark sources cited above.