ఎలోన్ మస్క్ కు చెందిన xAI అభివృద్ధి చేసిన ‘గ్రోక్’ (Grok) చాట్‌బాట్ దుర్వినియోగంపై కేంద్ర ప్రభుత్వం తీవ్రంగా స్పందించింది. దీని ద్వారా అశ్లీల కంటెంట్ మరియు మహిళల ఫోటోలను వికృతీకరించి సోషల్ మీడియాలో పోస్ట్ చేస్తున్న ఘటనలపై వివరణ ఇవ్వాలని ‘ఎక్స్’ (X) ప్లాట్‌ఫారమ్‌ను ఆదేశించింది. ఐటీ చట్టం 2000 మరియు ఐటీ నిబంధనలు 2021 ప్రకారం, ఇలాంటి అభ్యంతరకర కంటెంట్‌ను అరికట్టడంలో ఎక్స్ విఫలమైందని ఐటీ మంత్రిత్వ శాఖ తన లేఖలో పేర్కొంది.

నకిలీ ఖాతాల ద్వారా గ్రోక్ ఏఐని ఉపయోగించి మహిళల గౌరవానికి భంగం కలిగించేలా వ్యవహరించడం ప్లాట్‌ఫారమ్ భద్రతా వైఫల్యమని ప్రభుత్వం మండిపడింది. బాధితుల ఫిర్యాదులు మరియు పార్లమెంటరీ కమిటీల ఆందోళనల నేపథ్యంలో, అశ్లీలతను అరికట్టేందుకు తీసుకున్న చర్యలపై తక్షణమే నివేదిక సమర్పించాలని కేంద్రం ఆదేశించింది. ఏఐ సాంకేతికత దుర్వినియోగాన్ని అడ్డుకోకపోతే కఠిన చర్యలు తప్పవని ప్రభుత్వం పరోక్షంగా హెచ్చరించింది.