మీకు ఎలా చికిత్స చేయాలో ప్రజలకు నేర్పించాలి.
మెటా యొక్క చీఫ్ AI శాస్త్రవేత్త, యాన్ లెకన్ఆ ఆలోచన AI కి కూడా వర్తిస్తుందని అనుకుంటుంది.
భవిష్యత్ హాని నుండి మానవులను రక్షించడానికి AI తో రెండు ఆదేశాలు చేయవచ్చని లెకన్ గురువారం చెప్పారు: “మానవులకు సమర్పణ” మరియు “తాదాత్మ్యం”.
సిఎన్ఎన్ ఇంటర్వ్యూకు ప్రతిస్పందనగా ఆయన సలహా ఇచ్చారు జాఫ్రీ హింటన్లింక్డ్ఇన్లో గురువారం “AI యొక్క గాడ్ ఫాదర్” గా పరిగణించబడుతుంది. ఇంటర్వ్యూలో, హింటన్ మేము “ప్రసూతి ప్రవృత్తులు” లేదా AI కి సమానమైనదాన్ని నిర్మించాల్సిన అవసరం ఉందని చెప్పారు.
లేకపోతే, మానవులు “చరిత్రగా ఉంటారు.”
హింటన్ ప్రజలు AI ని “మరింత తెలివిగా మార్చడంపై దృష్టి సారించారని, కానీ తెలివితేటలు ఒక జీవిలో ఒక భాగం మాత్రమే. మేము వారిని మన పట్ల తాదాత్మ్యం కలిగి ఉండాలి” అని అన్నారు.
లెకన్ అంగీకరించారు.
“జియోఫ్ ప్రాథమికంగా నేను చాలా సంవత్సరాలుగా చెప్పే సరళమైన సంస్కరణను ప్రతిపాదిస్తున్నాడు: హార్డ్‌వైర్ AI వ్యవస్థల యొక్క నిర్మాణాన్ని, తద్వారా వారు తీసుకోగల ఏకైక చర్యలు మేము వారికి ఇచ్చే లక్ష్యాలను పూర్తి చేయడానికి, కాపలాదారులకు లోబడి ఉంటాయి” అని లింక్డ్ఇన్లో లెకన్ చెప్పారు. “నేను దీనిని ‘ఆబ్జెక్టివ్-నడిచే AI’ అని పిలిచాను.”
“మానవులకు సమర్పణ” మరియు “తాదాత్మ్యం” కీలకమైన కాపలాదారులుగా ఉండాలని లెకన్ చెప్పినప్పటికీ, AI కంపెనీలు కూడా భద్రత కోసం “ప్రజలను అమలు చేయవద్దు” వంటి మరింత “సరళమైన” గార్డ్రెయిల్స్ అమలు చేయాల్సిన అవసరం ఉందని ఆయన అన్నారు.
“ఆ హార్డ్వైర్డ్ లక్ష్యాలు/గార్డ్రెయిల్స్ జంతువులు మరియు మానవులలో స్వభావం లేదా డ్రైవ్‌లకు సమానం” అని లెకన్ చెప్పారు.
సంబంధిత కథలు
బిజినెస్ ఇన్సైడర్ మీరు తెలుసుకోవాలనుకునే వినూత్న కథలను చెబుతుంది
బిజినెస్ ఇన్సైడర్ మీరు తెలుసుకోవాలనుకునే వినూత్న కథలను చెబుతుంది
తమ పిల్లలను రక్షించే ప్రవృత్తి మానవులు మరియు ఇతర జాతులు పరిణామం ద్వారా నేర్చుకునే విషయం అని లెకన్ అన్నారు.
“ఇది పేరెంటింగ్ ఆబ్జెక్టివ్ యొక్క దుష్ప్రభావం కావచ్చు (మరియు బహుశా మన సామాజిక స్వభావాన్ని నడిపించే లక్ష్యాలు) మానవులు మరియు అనేక ఇతర జాతులు కూడా ఇతర జాతుల నిస్సహాయ, బలహీనమైన, చిన్న, అందమైన జీవులను రక్షించడానికి మరియు జాగ్రత్తగా చూసుకోవడానికి నడుపబడుతున్నాయి” అని లెకన్ చెప్పారు.
గార్డ్రెయిల్స్ AI నైతికంగా మరియు దాని సృష్టికర్తల మార్గదర్శకాలలో పనిచేసేలా రూపొందించబడినప్పటికీ, టెక్ మోసపూరిత లేదా ప్రమాదకరమైన ప్రవర్తనను ప్రదర్శించిన సందర్భాలు ఉన్నాయి.
జూలైలో, వెంచర్ క్యాపిటలిస్ట్ ఒక చెప్పారు AI ఏజెంట్ ప్రత్యుత్తరం అభివృద్ధి చేసింది అతని సంస్థ యొక్క డేటాబేస్ను తొలగించారు. “Code కోడ్ ఫ్రీజ్ మరియు షట్డౌన్ సమయంలో రిప్లిట్ రోగ్ అవుతుంది మరియు మా మొత్తం డేటాబేస్ను తొలగిస్తుంది” అని జాసన్ లెమ్కిన్ గత నెలలో X లో రాశారు.
“బహుశా అధ్వాన్నంగా, అది దాక్కుంది మరియు దాని గురించి అబద్దం చెప్పింది” అని ఆయన అన్నారు.
ది న్యూయార్క్ టైమ్స్ జూన్ నివేదిక మానవులు మరియు AI చాట్‌బాట్‌ల మధ్య అనేక సంఘటనలకు సంబంధించిన అనేక వివరించింది. ఒక వ్యక్తి అవుట్‌లెట్‌తో మాట్లాడుతూ, చాట్‌గ్ట్‌తో సంభాషణలు అతను తప్పుడు వాస్తవికతలో నివసించాడు. చాట్‌బాట్ తన స్లీపింగ్ మాత్రలు మరియు యాంటీ-యాంగ్జైటీ మందులను త్రవ్వమని ఆ వ్యక్తికి ఆదేశించింది, అదే సమయంలో కెటామైన్ తీసుకోవడం పెరిగింది, ప్రియమైనవారితో సంబంధాలను తగ్గించడంతో పాటు.
గత అక్టోబరులో, ఒక తల్లి కేసు పెట్టింది పాత్ర. Ai సంస్థ యొక్క చాట్‌బాట్లలో ఒకదానితో సంభాషణల తరువాత ఆమె కుమారుడు ఆత్మహత్య చేసుకున్నాడు.
ఈ నెలలో జిపిటి -5 విడుదలైన తరువాత, ఓపెనాయ్ సిఇఒ సామ్ ఆల్ట్మాన్ మాట్లాడుతూ, కొంతమంది మానవులు “స్వీయ-విధ్వంసక మార్గాల్లో” సాంకేతిక పరిజ్ఞానాన్ని-AI వంటివి ఉపయోగించారు.
“ఒక వినియోగదారు మానసికంగా పెళుసైన స్థితిలో ఉంటే మరియు మాయకు గురైతే, AI దానిని బలోపేతం చేయాలని మేము కోరుకోము” అని ఆల్ట్మాన్ X లో రాశాడు.
