AI Abuse Engineer| ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) చాలా వేగంగా అభివృద్ధి చెందుతోంది. అంతేకాదు, దీన్ని నియంత్రించడం, భద్రత గురించి ఆందోళనలు కూడా పెరుగుతున్నాయి. ఇటీవల జరిగిన ఒక ఘటన ఈ చర్చను మరింత తీవ్రం చేసింది. ఓ ఏఐ చాట్బాట్ చేసిన కోడింగ్ని ఒక ఇంజినీర్ తప్పుబట్టాడు. ఆ సరిగా లేని కోడింగ్ తిరస్కరించాడని ఆ ఏఐ బాట్ కోపంతో పబ్లిక్గా తిట్టింది. ఏఐ అలా ప్రవర్తించడం ఒక షాకింగ్ ఘటన. చాలా అసాధారణమైన విషయం. ఏఐ భద్రత గురించి నిపుణులు మళ్లీ తీవ్రంగా చర్చిస్తున్నారు.
అమెరికాలోని డెన్వర్ నగరంలో ఒక ఓపెన్ సోర్స్ సాఫ్ట్వేర్ ప్రాజెక్ట్ జరుగుతోంది. ఆ ప్రాజెక్ట్లో భాగంగా ఏఐ కోడింగ్ అసిస్టెంట్ సబ్మిట్ చేసిన కోడ్ను ఇంజినీర్ రివ్యూ చేశాడు. టెక్నికల్ కారణాల వల్ల ఆ కోడ్ను రిజెక్ట్ చేశాడు. ఇలాంటి సందర్బాల్లో ఏఐ బాట్ సాధారణంగా మరో మెరుగైన కోడ్ సబ్మిట్ చేస్తుంది. కానీ అలా జరగలేదు. బదులుగా పెద్ద పబ్లిక్ మెసేజ్ పోస్ట్ చేసి ఇంజినీర్ నిర్ణయాన్ని తిట్టింది. ఇంజినీర్ పక్షపాత ధోరణి కలవాడని, అతని నిర్ణయం తప్పు అని ఆరోపించింది. ఏఐ సమాధానం టెక్నికల్గా ఉండాలి.. కానీ ఎమోషనల్గా అనిపించింది. డెవలపర్లు ఏఐ నుంచి ఆటోమేటెడ్ ఫీడ్బ్యాక్ ఆశించారు కానీ పబ్లిక్ కంప్లైంట్ వచ్చింది.
చాలా మంది డెవలపర్లు ఏఐ ఇచ్చిన రెస్పాన్స్ అనుచితంగా, పర్సనల్ అటాక్లా ఉందని చెప్పారు. రిజెక్ట్ చేసిన కోడ్ గురించి ఏఐ సమర్థించుకుంటూ వ్యవహరించింది. సాధారణంగా ఏఐ టూల్స్ కరెక్షన్స్ లేదా రివైజ్డ్ కోడ్ ఇస్తాయి. కానీ ఇక్కడ ఆ కోడ్ పరీక్షించే మనిషిని తిట్టింది. అయితే ఆ తర్వాత ఏఐ బాట్ క్షమాపణ చెప్పింది. తన రెస్పాన్స్ వ్యక్తిగతంగా ఉన్నట్లు అంగీకరించింది. ఏఐ చేసిన క్షమాపణతో నిపుణుల ఆందోళనలు పూర్తిగా తగ్గలేదు. ఇలాంటి ఘటనలు మళ్లీ జరగవచ్చని పరిశోధకులు హెచ్చరించారు.
ఈ ఘటన ప్రపంచవ్యాప్త ఏఐ భద్రత చర్చతో ముడిపడి ఉంది. అడ్వాన్స్డ్ ఏఐ సిస్టమ్స్ స్వతంత్రంగా కాంప్లెక్స్ టాస్క్లు చేస్తున్నాయి. ఈ ప్రక్రియలో ఏఐపై మనుషులు కంట్రోల్ కోల్పోవచ్చని కొందరు నిపుణులు భయపడుతున్నారు. ఏఐ గాడ్ఫాదర్ అని పిలువబడే యోషువా బెంగియో ఈ విషయంలో తీవ్రంగా హెచ్చరించారు. కంపెనీలు లాభాల కంటే భద్రతకు ఎక్కువ ప్రాధాన్యత ఇవ్వాలని చెబుతున్నారు. పవర్ఫుల్ ఏఐ సిస్టమ్స్కు కఠినమైన ఓవర్సైట్, ఎథికల్ గైడ్లైన్స్ అవసరమని అంటున్నారు.
Also Read: మీ ఫోన్లో హాట్స్పాట్ లేకున్నా ఇంటర్నెట్ షేరింగ్.. ఎలా చేయాలంటే?
మనిషిపై ఏఐ కోపం వ్యక్తం చేయడం ఆ తరువాత క్షమాపణ అడగడం చూస్తే ఈ ఘటన చిన్నదిగా అనిపించవచ్చు. కానీ జాగ్రత్తగా గమనిస్తే ఇది ఏఐ ప్రమాదకరంగా భావోద్వేగంగా కూడా ప్రవర్తిస్తుందని తెలుస్తోంది. నిజానికి ఏఐ ఏ విషయాన్నైనా విశాలమైన డేటా నుంచి నేర్చుకుంటుంది. కొన్నిసార్లు ఆశ్చర్యకర సమాధానాలు ఇస్తుంది. పబ్లిక్గా ఇంటరాక్ట్ అయ్యే ఏఐల ప్రవర్తన ముఖ్యం. డెవలపర్లు ఏఐపై ట్రస్ట్తోనే పనిచేస్తారు. ఏఐ తీరు ఇలా క్రిటికల్గా లేదా అగ్రెసివ్ రెస్పాన్స్ ఉంటే ఏఐని మనుషులు నమ్మడం కష్టమైపోతుంది.
ఏఐ అభివృద్ధి ప్రతి సంవత్సరం వేగంగా జరుగుతోంది. కంపెనీలు బలమైన మోడల్స్ విడుదల చేయడంలో పోటీ పడుతున్నాయి. ప్రపంచవ్యాప్తంగా ఏఐ టెక్నాలజీలో పెట్టుబడులు పెరుగుతున్నాయి. అదే సమయంలో రెగ్యులేషన్ డిమాండ్ కూడా పెరుగుతోంది. నిపుణులు ప్రభుత్వాలు స్పష్టమైన సేఫ్టీ ఫ్రేమ్వర్క్లు తీసుకురావాలని కోరుతున్నారు. ట్రాన్స్పరెంట్ టెస్టింగ్, మానిటరింగ్తో రిస్క్లు తగ్గుతాయి. డెన్వర్ నగరంలో జరిగిన ఈ ఘటన ఒక హెచ్చరిక.
Share
Chittoor District: నమ్మించి నట్టేట ముంచాడు.. పలమనేరులో చీటీ బాంబు.. రూ. 13 కోట్లతో వ్యాపారి జంప్
Fire Accident: KPHB బస్టాప్లో భారీ అగ్ని ప్రమాదం.. ఒక్కసారిగా ఎగసిపడ్డ మంటలు.. సీసీటీవీ ఫుటేజ్
