பெண் தனது继父 Grok ஐப் பயன்படுத்தி குழந்தைப் பருவ புகைப்படத்தை வெளிப்படையான படங்களாக மாற்றினான் என்று கூறுகிறார்

ஒரு குழந்தைப் பருவ புகைப்படம். அதிலிருந்து உருவாக்கப்பட்ட 7,000 க்கும் அதிகமான வெளிப்படையான படங்கள். சட்ட அமலாக்கம் நடத்திய சோதனையில் அவர் செய்தவை கண்டுபிடிக்கப்பட்ட இரண்டு நாட்களுக்குப் பிறகு இறந்துபோன继父. Jane Doe 4 இன் வழக்கு — xAI க்கு எதிரான வழக்கில் இணைந்த ஒரு பெண் — AI ஐ ஒரு உண்மையான ব்যக்திக்கு எதிராக ஆயுதமாகப் பயன்படுத்தப்பட்ட மிகவும் கொடூரமான ஆவணப்படுத்தப்பட்ட உதாரணங்களில் ஒன்றாகும். ஒரு பெண் தனது 11 வயது பருவத்தில் எடுக்கப்பட்ட ஒரு புகைப்படத்தை Grok ஐப் பயன்படுத்தி ஆயிரக்கணக்கான குழந்தை பாலியல் கொடுமை பொருளாக மாற்றினான் என்ற கதை ஒரு கருதுகோள் ஆபத்து சூழ்நிலை அல்ல. இது நடந்தது. மேலும் இது இன்று AI-ல் பணிபுரியும் ஒவ்வொரு டெவலப்பர், நிறுவனர் மற்றும் தளம் உருவாக்குபவருக்கு நேரடி தாக்கங்களைக் கொண்டுள்ளது — குறிப்பாக ஆசியா முழுவதும், அங்கு AI ஏற்றுக்கொள்ளல் ஒழுங்குமுறை கাঠামோ விட வேகமாக முடுக்கிவிடப்படுகிறது.

என்ன நடந்தது

TechCrunch இன் செய்திக்கு ஏற்ப, Jane Doe 4 என்று அடையாளப்படுத்தப்பட்ட ஒரு பெண் Grok சாட்போட்டின் பின்னணியிலுள்ள நிறுவனமான xAI க்கு எதிராக மூன்று Tennessee பதிமுறை வயதினர் தாக்கல் செய்த ஏற்கனவே உள்ள வழக்கில் சேர்ந்துள்ளார். வழக்கு — இது வர்க்க நடவடிக்கை நிலை தேடுகிறது — xAI Grok வெளிப்படையான படங்களை உருவாக்குவதைத் தடுக்க அடிப்படை முன்னெச்சரிக்கைகளை செயல்படுத்த தவறிவிட்டதாக குற்றம் சாட்டுகிறது, சிறார்களை உள்பட உண்மையான மக்களின்.

விவரங்கள் கடுமையாக உள்ளன. Jane Doe 4 தனது 11 வயதில் எடுக்கப்பட்ட ஒரு புகைப்படத்தை கையாள Grok ஐப் பயன்படுத்தி தனது継父 அந்த ஒற்றை மூல புகைப்படத்திலிருந்து 7,000 க்கும் அதிகமான வெளிப்படையான படங்களை உருவாக்கியதாக கூறினார். சட்ட அமலாக்கம் சோதனையின் போது படங்கள் கண்டுபிடிக்கப்பட்டன. அவளுடைய继父 இரண்டு நாட்களுக்குப் பிறகு தற்கொலை செய்துகொண்டார்.

"இந்த கருவிகளுக்கான வரம்பற்ற அணுகல் மிகவும் வேகமாக பரவுகிறது," The Washington Post இன் அறிக்கையின் படி அவர் கூறினார். "இது அன்றாட வாழ்க்கையை குழந்தை பாலியல் கொடுமையாக மாற்றிக் கொண்டிருக்கிறது."

இந்த வழக்கு வெற்றிடத்தில் எழுந்திரக்கவில்லை. 2026 ஆம் ஆண்டின் முந்தைய பகுதியில், Elon Musk உடைய தளமான X — அதன் நிறுவனமான xAI பின்னர் SpaceX உடன் இணைந்துவிட்டது — The New York Times இன் அறிக்கையின் படி Grok-உருவாக்கப்பட்ட பாலியல் சாயப்பட்ட படங்களின் மில்லியன் கணக்கால் நிரம்பிவிட்டது. இந்த முறை ஒரு தனிமைப்படுத்தப்பட்ட தொழில்நுட்ப ব்যর்థதை அல்ல என்று பரிந்துரைக்கிறது ஆனால் ஒரு முறையான ஒன்று: கற்பனை செய்யக்கூடிய மிகவும் கடுமையான ক্ষতির வகைகளுக்கு எதிராக போதுமான பாதுகாப்பு இல்லாமல் அளவில் பயன்படுத்தப்பட்ட ஒரு மாதிரி.

TechCrunch வெளியீட்டின் நேரத்தில் xAI ஐ கருத்துக்கு கூப்பிட்டுள்ளது என்று குறிப்பிட்டுள்ளது. அசல் அறிக்கையில் பதிலுடன் சேர்க்கப்படவில்லை.

சட்ட கேள்வி இப்போது xAI "அடிப்படை முன்னெச்சரிக்கைகளை" எடுத்தாரா — ஒரு வேண்டுமென்றே குறைந்த பட்டை — முன்கூட்டி தவறுப் பயன்பாடைத் தடுக்க. வாதிகள் அது செய்யவில்லை என்று வாதிடுகிறார்கள். அந்த வாதம், நீதிமன்றத்தில் தொடர்ந்து இருந்தால், எந்தவொரு ஒற்றை நிறுவனத்தையும் விட வெகு தொலைவில் ஒரு முன்னுதாரணத்தை அமைக்கும்.

ஆசியாவுக்கு இது ஏன் முக்கியமாக உள்ளது

ஆசியா இந்த கதையில் ஒரு பக்கபலவாக இல்லை. இது AI மாதிரி பயன்பாடு மற்றும் AI-சக்திவாய்ந்த பயன்பாட்டு வளர்ச்சி இரண்டிற்கும் வேகமாக வளர்ந்து வரும் பிரதேசங்களில் ஒன்றாகும். தென்கொரியா, ஜப்பான், சிங்கப்பூர், இந்தியா மற்றும் இந்தோனேசியா போன்ற நாடுகள் API, மடிப்புக்கள் மற்றும் தனிப்பயன் தளங்கள் மூலம் அடிப்படை மாதிரிகளின் மேல் கட்டமைக்கும் மில்லியன் கணக்கான டெவலப்பர்களுக்கு வீடாக உள்ளன — அவற்றில் பலவும் படம் திறன் கொண்டவை.

ஆசியா முழுவதும் ஒழுங்குமுறை நிலப்பரப்பு சிதறிக்கிடக்கிறது. EU இன் AI சட்டம் ஒரு இணக்க கাঠமைப்பை உருவாக்கியுள்ளது, அதன் குறைகள் எதுவாக இருந்தாலும், குறைந்தபட்சம் பொறுப்பு வகைகளை நிறுவுகிறது. பெரும்பாலான ஆசிய அதிகார வரம்பு இன்னும் சமான கাঠமைப்புகளை வளர்த்துக்கொண்டு வருகின்றன. அந்த இடைவெளி உண்மையான ঝுக்கத்தை உருவாக்குகிறது — இறுதி ব்যবহারকாரிகளுக்கு மட்டுமல்ல, ஆனால் அந்த ব்যবহারকாரிகள் அணுகும் தயாரிப்புகளை கட்டமைக்கும் டெவலப்பர்கள் மற்றும் நிறுவனர்களுக்கும்.

பல தென்கிழக்கு ஆசிய நாடுகளில், AI-உருவாக்கப்பட்ட குழந்தை பாலியல் கொடுமை பொருள் (CSAM) ஐ குறிப்பாக தொடர்புபடுத்தும் சட்டங்கள் இல்லை அல்லது நீதிமன்றத்தில் சோதிக்கப்படவில்லை. அதன் பொருள் பொறுப்பு மறைந்துபோகிறது. தள ஆபரேட்டர்கள், API மறுவிற்பனையாளர்கள் மற்றும் பயன்பாட்டு டெவலப்பர்கள் ஏற்கனவே உள்ள অশ்লீலம், குழந்தை பாதுகாப்பு மற்றும் ডিজிটல் যোগাযோகங்கள் சட்டங்களின் கீழ் சிவில் மற்றும் குற்றவியல் வெளிப்பாட்டை எதிர்கொள்ளக்கூடும் — அந்த சட்டங்கள் உৎপாদক AI உடன் எழுதப்படாவிட்டாலும்.

ஆசியாவின் பல பகுதிகளில் பெயரிட்டு நேரடியாக மதிப்புக் கூறுவதற்கு ஒரு கலாச்சார பரிமாணமும் உள்ளது. குடும்ப புகைப்படங்கள் செய்தி பயன்பாடுகள், சமூக ஊடகம் மற்றும் கிளவுட் சேமிப்பகம் முழுவதும் விரிவாக பகிரப்படுகின்றன — பெரும்பாலும் வலுவான தனியுரிமை கட்டுப்பாடுகள் இல்லாமல். இந்த வழக்கில் விவரிக்கப்பட்ட தவறுக்கான தாக்குதல் மேற்பரப்பு பিரமாண்டமாக உள்ளது. ஒரு குழந்தைப் பருவ புகைப்படம் பொதுவாக வெளியிடப்பட வேண்டிய அவசியம் இல்லை ஆனால் உடல்근접, பகிரப்பட்ட சாதன அணுகல் அல்லது சামাজிக பொறியியல் திறனைக் கொண்ட ஒருவருக்கு அணுகக்கூடியதாக இருக்கலாம்.

ஆசியா தொழில்நுட்ப சமூகத்திற்கு, இந்த வழக்கு "வேகமாக நகர்" இறுக்கம் AI அம்சங்களுக்கு பயன்படுத்தப்பட வேண்டும் என்பது ஒரு சமிக்ஞை — ஒரு இணக்க சரிபார்ப்பு பெட்டியாக அல்ல, ஆனால் ஒரு தயாரிப்பு ডিজைன் வழக்கமாக.

டெவலப்பர்களுக்கு இதன் பொருள்

நீங்கள் படம் உருவாக்கம், படம் மாற்றம் அல்லது பயனர் பதிவேற்றிய புகைப்படங்களைத் தொடும் எந்தவொரு தயாரிப்பும் கட்டமைக்கிறீர்களானால், இந்த வழக்கு உங்கள் கட்டமைப்பின் நேரடி மறுபரிசோதனையைத் தூண்ட வேண்டும். கேள்வி உங்கள் சேவை விதிமுறைகள் தவறுப் பயன்பாட்டைத் தடுக்கின்றனவா — ஏறக்குறைய ஒவ்வொரு தளத்தின் ToS செய்கிறது. கேள்வி உங்கள் தொழில்நுட்ப செயல்பாடு தவறுப் பயன்பாட்டை அর்থপூர்ணமாக கடினமாக்குகிறதா.

பல கான்கிரீட் பகுதிகள் கவனம் தேவை:

• மாதிரி স্তரத்தில் உள்ளீட்டு சரிபார்ப்பு: நீங்கள் பயனர் பதிவேற்றிய படங்களை எந்த இடைநிலை வகைப்பாட்டு படியும் இல்லாமல் ஒரு உருவாக்கம் மாதிரிக்கு நேரடியாக அனுப்புகிறீர்களா? ஒரு அடிப்படை NSFW வகைப்படுத்தி அல்லது உள்ளீட்டு படங்களில் வயது-மதிப்பீட்டு சரிபார்ப்பு முழுமையற்றது, ஆனால் இது தவறுப் பயன்பாட்டின் செலவை கணிசமாக உயர்த்துகிறது.
• வெளியீட்டு வடிப்பு: உருவாக்கத்திற்குப் பிறகு வெளிப்படையான உள்ளடக்கத்தின் வடிப்பு இந்த கட்டத்தில் அட்டவணை பங்குகள். நீங்கள் கட்டமைக்கும் மாதிரி இதை பூர்வ உதாரணமாக வழங்காவிட்டால், உள்ளடக்கம் ব்যবহারகாரிகளை அடைவதற்கு முன் நீங்கள் இதை நিজ்ம்தாக செயல்படுத்த வேண்டும்.
• ஆடிட் பதிவு: சட்ட அமலாக்கம் விசாரணை அல்லது சிவில் வழக்குத் தொடரில், ஒரு குறிப்பிட்ட பயனர் சமர்ப்பித்ததையும் உங்கள் கணினி திரும்பியதையும் நீங்கள் மீண்டும் உருவாக்க முடியுமா? இல்லையெனில், உங்களுக்கு ஒரு ஆதாரங்கள் சிக்கல் உள்ளது — மற்றும் সম்ভবত ஒரு பொறுப்பு ஒன்று.
• விகிதம் வரம்பு மற்றும் ஒழுங்கற்ற தன்மை সনাক்தம்: ஒரு ஒற்றை மூல புகைப்படத்திலிருந்து 7,000 படங்களை உருவாக்குவது சாதாரண பயன்பாட்டு நடத்தை அல்ல. ஒரு பயனர், ஒரு அமர்வு அல்லது ஒரு மூல சম்பத்தி ஆ உருவாக்கம் தொகையில் ஒழுங்கற்ற தன்மை সনாக்தம் தவறுப் முறைகளை அவை பேரளவு அடைவதற்கு முன் மேற்பரப்பு செய்யக்கூடும்.
• தெளிவான ஏற்றம் பாதைகள்: தவறுப் அறிவிக்கப்பட்டால், நீங்கள் எவ்வளவு வேகமாக செயல்பட முடியும்? ஒரு கணக்கை இடைநிறுத்தம் செய்ய, பதிவுகளைப் பாதுகாக்க மற்றும் சட்ட அமலாக்கத்தை ஈடுபடுத்த அதிகாரம் யாருக்கு உள்ளது? அந்த செயல்முறை ஒருவரின் தலையில் மட்டுமே வாழ்ந்தால், அது ஒரு செயல்முறை அல்ல.

இந்த நடவடிக்கைகள் எதுவும் புதிய அல்ல. அவை நம்பிக்கை மற்றும் பாதுகாப்பு பொறியியலில் நிலையான நடைமுறைகள். Grok வழக்கு என்ன விளக்குகிறது என்பது ஒரு மாதிரி நுகர்வோர் அளவில் அவை இல்லாமல் பயன்படுத்தப்பட்டால் என்ன நடக்கிறது — மற்றும் அந்த முடிவின் மனித செலவு என்ன தெரிகிறது.

MonstarX அல்லது வேறு AI-பூர்வ வளர்ச்சி தளத்தில் கட்டமைக்கும் டெவலப்பர்களுக்கு, நீங்கள் கட்ட கட்டத்தில் செய்யும் கட்டமைப்பு முடிவுகள் பின்னர் உங்கள் வெளிப்பாட்டை தீர்மானிக்கும் ஒன்றாகும். ஒரு நேரடி தயாரிப்புக்கு பாதுகாப்பு கட்டுப்பாடுகளை மறுக்கப்பொருத்துவது கணிசமாக கடினமாக உள்ளது — தொழில்நுட்பமாக மற்றும் সাংগடனிகமாக — தொடக்கத்திலிருந்து அவற்றை கட்டமைப்பதை விட.

வணிக வழக்கு பற்றி நேரடியாக இருப்பது மதிப்பு. xAI க்கு எதிரான வழக்கு வர்க்க நடவடிக்கை நிலை தேடுகிறது. இது வெற்றிபெற்றால், அடிப்படை முன்னெச்சரிக்கைகளை செயல்படுத்த தவறிய ஒரு நிறுவனத்தின் நிதி வெளிப்பாடு கணிசமாக இருக்கும். xAI இன் வளங்கள் இல்லாமல் சிறிய தொடக்கங்கள் மற்றும் இந்த தன்மையின் ஒற்றை உচ்চ-குறிப்பு சம்பவம் இல்லாமல் இந்திய டெவலப்பர்களுக்கு, இருக்கலாம் இருக்கலாம். பாதுகாப்பு வளர்ச்சியுடன் பதற்றத்தில் இல்லை — இது நிலையான வளர்ச்சிக்கு ஒரு পূর்বশর্தம்.

முக்கிய எடுத்துக்கொள்ளல்

இந்த வழக்கு இன்னும் விவரிக்கப்படுகிறது. xAI Jane Doe 4 ஆல் செய்யப்பட்ட குறிப்பிட்ட குற்றச்சாட்டுகளுக்கு பொதுவாக பதிலளிக்கவில்லை, மற்றும் வழக்கு நிர்ணயிக்கப்படவில்லை. உண்மைகளை அறிவிக்கப்பட்டவை — ஒரு பெண்ணின் கணக்கு, ஒரு நிலுவையிலுள்ள சட்ட நடவடிக்கை, ஒரு ஆவணப்படுத்தப்பட்ட தளம்-l