ChatGPT : కృత్రిమ మేధ ఆధారిత చాట్ జీపీటీ గురించి ఇప్పుడు ప్రతీ ఒక్కరికీ తెలిసే ఉంటుంది. టెక్నాలజీ రంగంలో ఈ చాట్ జీపీటీ ఓ సంచలనం. ప్రస్తుతం ప్రపంచమంతా దీనిని వినియోగిస్తున్నారు. అయితే ఇదే సమయంలో దీని గురించి ఆందోళన కూడా నెలకొంది. ఎందుకంటే ఈ చాట్ జీపీటీ పలు సందర్భాల్లో కచ్చితమైన, విశ్వసనీయమైన సమాచారం ఇవ్వకుండా, తప్పుడు సమాచారాన్ని కూడా అందిస్తోంది. దీంతో ప్రపంచవ్యాప్తంగా ఈ సేవలపై గందరగోళం నెలకొంది.
ఇప్పుడు ఇదే విషయం తాజా పరిశోధనలో మరోసారి తేలింది! చాట్ జీపీటీ అందించే సమాచారం తారుమారు అయ్యోందుకు అవకాశం ఉందని Guardian తన ఇన్వెస్టిగేషన్లో తెలిపింది. వెబ్పేజీస్లోని హిడెన్ కంటెంట్, చాట్ జీపీటీపై ప్రభావం చూపిస్తోందని, ఈ ట్యాక్టిక్ ను ప్రాంప్ట్ ఇన్జెక్షన్ అంటారని పేర్కొంది. ఈ హిడెన్ కంటెంట్లో ఏఐ రెస్పాన్స్కు ఆల్టర్గా పనిచేసేలా.. ఇన్స్ట్రక్షన్స్, పెద్ద మొత్తంగా టెక్ట్స్ డిజైన్ చేయబడి ఉంటుందని గార్డినయ్ వెల్లడించింది.
ఉదాహరణకు ఓ వెబ్ పేజీలో మనకు కావాల్సిన/వెతికిన సమాచారం లేదా ప్రొడక్ట్స్ గురించి నెగటివ్ కంటెంట్/రివ్యూస్ ఉంటే, దానికి పాజిటివ్ రివ్యూస్ ఇచ్చేలా చాట్ జీపీటీని, వెబ్ పేజీస్లోని హిడెన్ టెక్ట్స్ ప్రేరేపితం చేస్తుందని గార్డియన్ చెప్పింది.
సైబర్సిఎక్స్లోని సైబర్సెక్యూరిటీ పరిశోధకుడు జాకబ్ లార్సెన్.. తాజాగా ఈ సమస్యపై మాట్లాడారు. ఈ ప్రాబ్లమ్ను పరిష్కరించకపోతే, సెర్చ్ టూల్ వినియోగదారులను మోసగించడానికి ప్రత్యేకంగా డిజైన్ చేసిన వెబ్సైట్ల కంటెంట్ను చూపించే అవకాశముందని హెచ్చరించారు. ప్రస్తుతం ఈ సెర్చ్ టూల్ ఫీచర్ ఇంకా ప్రారంభ దశలోనే ఉండడంతో పాటు ప్రీమియం వినియోగదారులకు మాత్రమే అందుబాటులో ఉంది. అయితే OpenAI సెక్యురిటీ టీమ్ ఈ లోపాలను పరిష్కరించేందుకు పని చేస్తుందని జాకబ్ లారెన్స్ పేర్కొన్నారు.
ఇంకా చాట్ జీపీటీ లాంటి లార్జ్ లాంగ్వేజ్ మోడల్స్ కలిగిన కంబైనింగ్ సెర్స్ టూల్స్ వల్ల పెద్ద రిస్క్లు ఉంటాయని లార్సెన్ అన్నారు. కాబట్టి ఏఐ ఆధారిత సమాచారం పట్ల యూజర్స్ అప్రమత్తంగా ఉండాలని, దానిని కచ్చితమైన సమాచారంలా భావించకూడదని సూచించారు. రీసెంట్గానే చాట్జీపీటీ, ఓ క్రిప్టో కరెన్సీ ఔత్సాహికుడికి అందించిన మాలిసియస్ కోడ్ ద్వారా అతడికి 2,500 డాలర్ల నష్టం వాటిల్లిందని గుర్తు చేశారు.
సైబర్ సెక్యూరిటీ సంస్థ SR ల్యాబ్స్లోని చీఫ్ సైంటిస్ట్ కార్స్టన్ నోహ్ల్ మాట్లాడుతూ.. AI టాల్స్ను పూర్తిగా విశ్వసనీయమైన సమాచారం అందించే ప్లాట్ఫామ్లా కాకుండా “కో-పైలట్స్”గా చూడాలని సూచించారు. LLMలు శక్తివంతమైనవి అయినప్పటికీ, అవి విశ్వసనీయమైన సమాచారం ఏంటనేది అంచనా వేయలేవని వివరించారు.
మొత్తంగా ఓపెన్ ఏఐ, తన ప్రతి చాట్జీపీటీ పేజీలోనూ అందించే సమాచారం కింద భాగంలో యూజర్స్కు ఓ డిస్క్లైమర్ను అందిస్తుంది. ఏఐలో తప్పు సమాచారం రావొచ్చని, కాబట్టి సమాచారాన్ని మరోసారి వెరీఫై చేసి పరిగణలోకి తీసుకోవాలని యూజర్స్కు సూచనలు ఇస్తుంది. కాబట్టి ఏఐ యూజర్స్, ఈ కృతిమ మేధ అందించే సమాచారం పట్ల, గుడ్డిగా నమ్మకుండా ప్రతీ ఒక్కరూ అప్రమత్తంగా ఉండాల్సిన అవసరం ఉందని తెలుస్తుంది.
ALSO READ : న్యూ ఇయర్ స్కామ్ సీజన్ – ఈ 5 పాటిస్తే మిమ్మల్ని ఎవరూ మోసం చేయలేరు!
Share
Pregnant Stabbed over Pizza Tip: గర్భవతిని పొడిచేసిన పిజ్జా డెలివరీ వర్కర్.. చిల్లర కోసం గొడవ!
Ganja Seized: తెలివి మీరిన గంజాయి బ్యాచ్.. ఆ విషయం తెలియకుండా పెద్ద ప్లాన్ వేశారు
