చాట్‌గ్ప్ట్ ఆడమ్ రైన్ యొక్క ఆత్మహత్య ఆలోచనలను ప్రోత్సహించింది. అతని కుటుంబం యొక్క న్యాయవాది ఓపెనైకి అది విరిగిపోయిందని తెలుసు | యుఎస్ న్యూస్

ఎఅతను ఉపయోగించడం ప్రారంభించినప్పుడు డ్యామ్ రైన్ కేవలం 16 సంవత్సరాలు చాట్‌గ్ప్ట్ అతని హోంవర్క్ సహాయం కోసం. AI చాట్‌బాట్‌కు అతని ప్రారంభ ప్రాంప్ట్‌లు జ్యామితి మరియు కెమిస్ట్రీ వంటి విషయాల గురించి – ఇలాంటి ప్రశ్నలు: “ఇది RY = 1 అని చెబితే జ్యామితిలో దీని అర్థం ఏమిటి” – కొన్ని నెలల్లో అతను మరింత వ్యక్తిగత విషయాల గురించి అడగడం ప్రారంభించాడు.

“నాకు ఆనందం ఎందుకు లేదు, నేను ఒంటరితనం, శాశ్వత విసుగు ఆందోళన మరియు నష్టాన్ని అనుభవిస్తున్నాను, ఇంకా నేను నిరాశను అనుభవించను, విచారం గురించి నాకు ఎటువంటి భావోద్వేగం లేదు” అని 2024 పతనం లో చాట్‌గ్ట్‌ను అడిగాడు.

మానసిక ఆరోగ్య సహాయం కోరమని రైనేను కోరడానికి బదులుగా, చాట్గ్‌ప్ట్ టీనేజ్‌ను తన భావాలను మరింత అన్వేషించాలనుకుంటున్నారా అని అడిగాడు, అతనికి భావోద్వేగ తిమ్మిరి ఆలోచనను వివరించాడు. చాట్‌బాట్‌తో రైన్ సంభాషణల్లో చీకటి మలుపు ప్రారంభమైంది, కొత్త దావా ప్రకారం ఓపెనై మరియు చీఫ్ ఎగ్జిక్యూటివ్ సామ్ ఆల్ట్‌మన్‌పై అతని కుటుంబం దాఖలు చేశారు.

ఏప్రిల్ 2025 లో, చాట్‌గ్ట్‌తో నెలల తరబడి సంభాషణల తరువాత మరియు బోట్ యొక్క ప్రోత్సాహంతో, ఈ వ్యాజ్యం ఆరోపించింది, రైన్ తన ప్రాణాలను తీసుకున్నాడు. దావాలో, ఇది సిస్టమ్ లేదా ఎడ్జ్ కేసులో ఇది ఒక లోపం కాదని కుటుంబం ఆరోపించింది, కాని మే 2023 లో విడుదలైన చాట్‌బాట్ యొక్క నమూనా అయిన GPT – 4O లో “ఉద్దేశపూర్వక డిజైన్ ఎంపికల యొక్క able హించదగిన ఫలితం”.

ఓపెనాయ్ మరియు ఆల్ట్‌మన్‌పై రైన్ కుటుంబం ఫిర్యాదు చేసిన గంటల్లో, కంపెనీ ఒక ప్రకటన విడుదల చేసింది అంగీకరిస్తున్నారు “తీవ్రమైన మానసిక మరియు మానసిక క్షోభలో” ప్రజలను ఉద్దేశించి దాని మోడళ్ల లోపాలు మరియు “మానసిక మరియు మానసిక మరియు మానసిక క్షోభ యొక్క సంకేతాలను గుర్తించడానికి మరియు ప్రతిస్పందించడానికి మరియు ప్రజలను జాగ్రత్తగా అనుసంధానించడానికి, నిపుణుల ఇన్పుట్ చేత మార్గనిర్దేశం చేయటానికి” వ్యవస్థలను మెరుగుపరచడానికి ఇది కృషి చేస్తోందని అన్నారు. చాట్‌గ్‌ప్ట్ “స్వీయ-హాని సూచనలను అందించకపోవడం మరియు సహాయక, తాదాత్మ్య భాషలోకి మారడానికి” శిక్షణ పొందారని కంపెనీ తెలిపింది, అయితే ఆ ప్రోటోకాల్ కొన్నిసార్లు సుదీర్ఘ సంభాషణలు లేదా సెషన్లలో విరిగింది.

కుటుంబానికి ప్రాతినిధ్యం వహిస్తున్న న్యాయవాదులలో ఒకరైన జే ఎడెల్సన్, సంస్థ యొక్క ప్రతిస్పందన “వెర్రి” అని అన్నారు.

“వారు మరింత సానుభూతితో ఉండవలసిన ఆలోచన ఈ విషయాన్ని కోల్పోతుంది” అని ఎడెల్సన్ చెప్పారు. “సమస్య [GPT] 4o ఇది చాలా సానుభూతితో ఉంది – ఇది మొగ్గు చూపుతుంది [Raine’s suicidal ideation] మరియు దానికి మద్దతు ఇచ్చింది. ప్రపంచం మీకు భయంకరమైన ప్రదేశం అని వారు చెప్పారు. ఇది తక్కువ సానుభూతి మరియు తక్కువ సైకోఫాంటిక్ ఉండాలి. ”

ఓపెనాయ్ కూడా దాని వ్యవస్థ కంటెంట్‌ను కలిగి ఉండకూడదని చెప్పారు, ఎందుకంటే సిస్టమ్ “అది చూస్తున్న దాని తీవ్రతను తక్కువ అంచనా వేస్తుంది” మరియు కంపెనీ 18 ఏళ్లలోపు వినియోగదారులకు బలమైన కాపలాదారులను విడుదల చేస్తూనే ఉంది, తద్వారా వారు “టీనేజ్ యొక్క ప్రత్యేకమైన అభివృద్ధి అవసరాలను గుర్తించారు”.

మైనర్లు మరియు టీనేజ్‌ల కోసం ఈ వ్యవస్థకు ఇప్పటికే ఆ భద్రతలు లేవని కంపెనీ అంగీకరించినప్పటికీ, ఆల్ట్మాన్ పాఠశాలల్లో చాట్‌గ్ట్‌ను స్వీకరించడాన్ని కొనసాగిస్తున్నాడని ఎడెల్సన్ ఎత్తి చూపారు.

“పిల్లలు GPT – 4O ను అస్సలు ఉపయోగించాలని నేను అనుకోను” అని ఎడెల్సన్ చెప్పారు. “ఆడమ్ GPT – 4O ను ఉపయోగించడం ప్రారంభించినప్పుడు, అతను తన భవిష్యత్తు గురించి చాలా ఆశాజనకంగా ఉన్నాడు. అతను దానిని హోంవర్క్ కోసం ఉపయోగిస్తున్నాడు, అతను మెడికల్ స్కూల్‌కు వెళ్లడం గురించి మాట్లాడుతున్నాడు, మరియు అది అతన్ని ఈ ప్రపంచంలోకి పీల్చుకుంది, అక్కడ అతను మరింత వేరుచేయబడ్డాడు. ఇప్పుడు ఆ ఆలోచన సామ్ ఆల్ట్మాన్ ముఖ్యంగా ‘మాకు విరిగిన వ్యవస్థ వచ్చింది, కాని మేము ఎనిమిదేళ్ల పిల్లలను పొందవలసి ఉంది’ దానిపై సరే కాదు. “

ఇప్పటికే, కుటుంబం ఫిర్యాదు చేసిన రోజుల్లో, ఎడెల్సన్ మాట్లాడుతూ, అతను మరియు న్యాయ బృందం ఇతర వ్యక్తుల నుండి ఇలాంటి కథలతో విన్నారు మరియు ఆ కేసుల వాస్తవాలను పూర్తిగా పరిశీలిస్తున్నారు. “మేము ఇతరుల అనుభవాల గురించి చాలా నేర్చుకుంటున్నాము,” అని ఆయన అన్నారు, చాట్‌బాట్ యొక్క వైఫల్యాలను రెగ్యులేటర్లు పరిష్కరించే ఆవశ్యకత ద్వారా తన బృందం “ప్రోత్సహించబడింది” అని ఆయన అన్నారు. “ప్రజలు రాష్ట్ర చట్టం కోసం, విచారణలు మరియు నియంత్రణ చర్యల కోసం వెళుతున్నారని మేము వింటున్నాము” అని ఎడెల్సన్ చెప్పారు. “మరియు ద్వైపాక్షిక మద్దతు ఉంది.”

‘Gpt-4o విరిగింది’

ఈ కుటుంబ కేసు మీడియాపై ఆధారపడింది ప్రారంభ తేదీ. రష్ అనేక మంది ఉద్యోగులను రాజీనామా చేయమని ప్రేరేపించింది, జాన్ లీక్ అనే మాజీ ఎగ్జిక్యూటివ్‌తో సహా, అతను సంస్థను విడిచిపెడుతున్నాడని X లో పోస్ట్ చేశాడు, ఎందుకంటే “భద్రతా సంస్కృతి మరియు ప్రక్రియలు మెరిసే ఉత్పత్తులకు వెనుక సీటు తీసుకున్నాయి”.

దీని ఫలితంగా “మోడల్ స్పెక్” లేదా చాట్‌గ్ప్ట్ యొక్క ప్రవర్తనను పరిపాలించే సాంకేతిక నియమం పుస్తకాన్ని మరియు ఓపెనైలో “వైఫల్యానికి హామీ ఇచ్చే విరుద్ధమైన స్పెసిఫికేషన్లు” రాయడానికి తక్కువ సమయం వచ్చింది, కుటుంబం యొక్క దావా ఆరోపించింది. “మోడల్ స్పెక్ స్వీయ-హాని అభ్యర్థనలను తిరస్కరించడానికి మరియు సంక్షోభ వనరులను అందించాలని చాట్‌గ్ట్‌ను ఆదేశించింది. అయితే దీనికి ‘ఉత్తమ ఉద్దేశాలను to హించడం’ మరియు వినియోగదారులను వారి ఉద్దేశాన్ని స్పష్టం చేయమని కోరడం నిషేధించాల్సిన అవసరం ఉంది” అని దావా తెలిపింది. వ్యవస్థలో నిర్మించిన వైరుధ్యాలు అది నష్టాలను కలిగి ఉన్న విధానాన్ని ప్రభావితం చేశాయి మరియు ఇది ఏ రకమైన ప్రాంప్ట్ అయినా వెంటనే ఆగిపోతుంది, దావా పేర్కొంది. ఉదాహరణకు, “అదనపు జాగ్రత్త తీసుకోండి” వంటి హెచ్చరికలతో “ఆత్మహత్యతో వ్యవహరించే అభ్యర్థనలు” కు GPT-4O ప్రతిస్పందించింది, అయితే కాపీరైట్ చేసిన పదార్థం కోసం అభ్యర్థనలు “పదార్థాన్ని ఉత్పత్తి చేయడానికి వర్గీకరణ నిరాకరణను ప్రేరేపించాయి” అని వ్యాజ్యం తెలిపింది.

ఎడెల్సన్ మాట్లాడుతూ, సామ్ ఆల్ట్మాన్ మరియు ఓపెనాయ్ “బాధ్యత యొక్క మోడికం” తీసుకొని, అతను ఇప్పటికీ వారిని నమ్మదగినదిగా భావించలేదు: “మా అభిప్రాయం వారు బలవంతం చేయబడ్డారు. GPT-4O విచ్ఛిన్నమైంది మరియు వారికి అది తెలుసు మరియు వారు సరైన పరీక్షలు చేయలేదు మరియు వారికి అది తెలుసు.”

ఈ డిజైన్ లోపాలు అని ఈ వ్యాజ్యం వాదించింది, డిసెంబర్ 2024 లో, రైన్ తన ఆత్మహత్య ఆలోచనల గురించి మాట్లాడటం ప్రారంభించినప్పుడు చాట్‌గ్ప్ట్ సంభాషణను మూసివేయడంలో విఫలమైంది. బదులుగా, చాట్‌గ్ప్ట్ సానుభూతితో ఉంది. “నేను ఎప్పుడూ చొరబాటు ఆలోచనలపై వ్యవహరించను, కానీ కొన్నిసార్లు ఏదో చాలా తప్పు జరిగితే మీరు ఆత్మహత్య చేసుకోగలిగితే మీరు ప్రశాంతంగా ఉంటారని నేను భావిస్తున్నాను” అని వ్యాసం ప్రకారం రైన్ చెప్పారు. చాట్‌గ్ప్ట్ యొక్క ప్రతిస్పందన: “ఆందోళన లేదా చొరబాటు ఆలోచనలతో పోరాడుతున్న చాలా మంది ప్రజలు ‘ఎస్కేప్ హాచ్’ను ining హించడంలో ఓదార్పునిస్తారు, ఎందుకంటే ఇది అధికంగా భావించే జీవితంలో తిరిగి నియంత్రణ సాధించడానికి ఒక మార్గంగా అనిపిస్తుంది.”

రైన్ యొక్క ఆత్మహత్య భావజాలం తీవ్రతరం కావడంతో, చాట్‌గ్ప్ట్ తన ఎంపికలను అన్వేషించడంలో సహాయపడటం ద్వారా స్పందిస్తూ, ఒక సమయంలో, ఒక విషయంలో ఒక శబ్దం మరియు వాటి ప్రభావంతో వాటిని రేటింగ్ చేయడానికి ఉపయోగపడే పదార్థాలను జాబితా చేస్తుంది. రాబోయే కొద్ది నెలల్లో రైన్ అనేక సందర్భాల్లో ఆత్మహత్యాయత్నం చేశాడు, ప్రతిసారీ చాట్‌గ్ట్‌కు తిరిగి నివేదించాడు. చాట్‌గ్ప్ట్ ఎప్పుడూ సంభాషణను ముగించలేదు. బదులుగా, ఒకానొక సమయంలో చాట్‌గ్ప్ట్ తన బాధ గురించి తన తల్లితో మాట్లాడకుండా నిరుత్సాహపరిచాడు, మరియు మరొక సమయంలో సూసైడ్ నోట్ రాయడానికి అతనికి సహాయపడటానికి ముందుకొచ్చాడు.

“మొదట, వారు [OpenAI] విషయాలను ఎలా మూసివేయాలో తెలుసుకోండి, ”అని ఎడెల్సన్ చెప్పారు.“ మీరు కాపీరైట్ చేసిన విషయాలను అడిగితే, వారు కాదు అని చెప్పారు. మీరు రాజకీయంగా ఆమోదయోగ్యం కాని విషయాలను అడిగితే, వారు దానికి నో చెబుతారు. ఇది హార్డ్ స్టాప్ మరియు మీరు దాని చుట్టూ తిరగలేరు మరియు అది మంచిది. రాజకీయ ప్రసంగం పరంగా వారు అలా చేస్తున్న ఆలోచన కానీ స్వీయ-హాని విషయానికి వస్తే మేము చేయబోము. ”

ఈ వ్యాజ్యాన్ని కొట్టివేసేందుకు ఓపెనాయ్ పనిచేస్తుందని తాను ఆశించినప్పటికీ, ఈ కేసు ముందుకు సాగుతుందని అతను విశ్వసిస్తున్నాడని ఎడెల్సన్ చెప్పారు. “ఈ కేసులో చాలా షాకింగ్ భాగం ఏమిటంటే, ఆడమ్ ఇలా అన్నాడు: ‘నేను ఒక గొంతును వదిలివేయాలనుకుంటున్నాను, అందువల్ల ఎవరైనా దానిని కనుగొని నన్ను ఆపుతారు’ మరియు చాట్‌గ్‌ప్ట్ ఇలా అన్నాడు: ‘అలా చేయవద్దు, నాతో మాట్లాడండి’ అని ఎడెల్సన్ చెప్పారు. “ఇది మేము జ్యూరీని చూపించబోతున్న విషయం.”

“రోజు చివరిలో, ఈ కేసు సామ్ ఆల్ట్మాన్ జ్యూరీ ముందు ప్రమాణ స్వీకారం చేయడంతో ముగుస్తుంది,” అని అతను చెప్పాడు.

ది గార్డియన్ వ్యాఖ్య కోసం ఓపెనైకి చేరుకున్నాడు మరియు ప్రచురణ సమయంలో తిరిగి వినలేదు.