OpenAI-ը ներկայացրել է երեխաների պատկերներն ուսումնասիրող գործիք
OpenAI ընկերությունը Վաշինգտոնում կայացած ճեպազրույցի ժամանակ հայտարարել է նոր դասակարգիչ գործիքի մասին, որը նախատեսված է երեխաների շահագործումը պարունակող պատկերները, ներառյալ՝ արհեստական բանականությամբ ստեղծվածները, հայտնաբերելու համար։
Վաշինգտոնում տեղի ունեցած ճեպազրույցի ժամանակ OpenAI-ը ներկայացրել է նոր դասակարգիչ, որը հնարավորություն է տալիս հայտնաբերել երեխաների վերաբերյալ ոչ պատշաճ բովանդակությունը։ Ընկերության մանկական անվտանգության հարցերով քաղաքականության ղեկավար Ջոն Բաքլին նշել է, որ արդյունաբերության համար կարևոր է հասկանալ, թե պատկերները որ դեպքում են պարունակում հորինված, և որ դեպքում՝ իրական երեխայի կերպար։ Այս քայլը նպատակ ունի պայքարել երեխաների սեռական շահագործման նյութերի տարածման դեմ, որոնք էապես ավելացել են արհեստական բանականության զարգացմանը զուգահեռ։
Կատարելագործված տեխնոլոգիա և վիճակագրություն
Նախնական փորձարկումների ընթացքում պարզվել է, որ նոր դասակարգիչը նախորդ մեթոդների համեմատ 48 տոկոսով ավելի քիչ սխալ դրական արդյունքներ է գրանցում՝ միաժամանակ պահպանելով ոչ պատշաճ բովանդակության հայտնաբերման նույն ցուցանիշը։ Այս տեխնոլոգիան ներդրվել է այն ժամանակ, երբ NCMEC CyberTipline-ը 2024 թվականին արհեստական բանականության հետ կապված ստացել է 67,000, իսկ 2025 թվականին՝ 400,000 զեկույց։ Հյուսիսային Կարոլինայի գլխավոր դատախազ Ջեֆ Ջեքսոնը արհեստական բանականության միջոցով ստեղծված նմանատիպ նյութերի մասին զեկույցների հոսքը բնութագրել է որպես պայթյունավտանգ, ինչը հրատապ է դարձնում անվտանգության նոր միջոցների կիրառումը։
Կանոնակարգումներ և պատասխանատվություն
ChatGPT-ն այժմ կիրառում է խիստ սահմանափակումներ այն օգտատերերի նկատմամբ, ովքեր փորձում են ստեղծել երեխաների սեռական շահագործումը պարունակող նյութեր։ Առաջին խախտման դեպքում օգտատիրոջ հաշիվը ենթարկվում է 24-ժամյա կասեցման՝ որպես նախազգուշացում, որը կանխարգելիչ բնույթ է կրում։ Զուգահեռաբար, «Take It Down Act» օրենքը պահանջում է, որ սոցիալական մեդիա հարթակները ոչ համաձայնությամբ տարածված ինտիմ պատկերները հեռացնեն 48 ժամվա ընթացքում։ Միևնույն ժամանակ, Common Sense Media կազմակերպությունը OpenAI-ի այս տեխնոլոգիան որակել է որպես անընդունելի ռիսկ դեռահասների համար, ինչը ցույց է տալիս ոլորտում առկա լուրջ մտահոգությունները։