ევროკავშირი AI ჩატბოტებისთვის ახალ წესებს ამზადებს, რომლებიც არასრულწლოვნებთან ურთიერთობის ფორმას მნიშვნელოვნად შეცვლის. ახალი ინიციატივის მიხედვით, პლატფორმებს შესაძლოა აეკრძალოთ ისეთი AI ასისტენტების შექმნა, რომლებიც ბავშვებთან ემოციურ კავშირს ან ადამიანურ ურთიერთობას სიმულირებენ.
ევროკავშირის AI Kids Act-ის პროექტი, რომელიც WIRED-მა ნახა, მიზნად ისახავს არასრულწლოვნების დაცვას იმ შემთხვევებისგან, როდესაც AI კომპანიონები ბავშვებისთვის მეგობრის, მრჩევლის ან ემოციური მხარდამჭერის როლს ირგებენ.
პროექტის მიხედვით, 13 წლამდე ბავშვებს ჩატბოტებზე წვდომა მხოლოდ მეურვის ზედამხედველობით შეეძლებათ. ამასთან, პლატფორმებს აეკრძალებათ ისეთი ფუნქციების დამატება, რომლებიც AI-ს ბავშვებთან ემოციური ურთიერთობის დამყარების შესაძლებლობას მისცემს.
ახალი რეგულაციები შეეხება როგორც სპეციალურ AI კომპანიონებს, ისე ზოგად სასაუბრო ჩატბოტებს. ყურადღების ცენტრში მოექცა ისეთი სერვისები, როგორიცაა ChatGPT, Character.ai და Snapchat-ის My AI, რადგან ევროკავშირის შეფასებით, მსგავსი პროდუქტები არასრულწლოვნების ფსიქიკურ ჯანმრთელობასა და კეთილდღეობაზე გავლენის რისკებს ქმნის.
ერთ-ერთი მთავარი ცვლილება AI ჩატბოტების მეხსიერებას ეხება. ახალი წესების მიხედვით, ასეთ სისტემებს შესაძლოა აეკრძალოთ სხვადასხვა საუბარს შორის მომხმარებლის შესახებ ინფორმაციის შენახვა, რათა ბავშვების პირადი და მგრძნობიარე მონაცემების დაგროვება შეიზღუდოს.
ევროკავშირი ასევე გეგმავს შეზღუდოს სოციალური ქსელების, ვიდეოპლატფორმებისა და თამაშების მიერ AI ჩატბოტების ავტომატურად შეთავაზება. მაგალითად, პლატფორმებს შესაძლოა აღარ შეეძლოთ არასრულწლოვანი მომხმარებლებისთვის AI კომპანიონების კონტაქტების სიაში წინ წამოწევა ან მათი აქტიურად წახალისება.
წესების დარღვევისთვის კომპანიებს შესაძლოა სერიოზული ფინანსური სანქციები დაეკისროთ. პროექტის მიხედვით, ბავშვების დაცვის მოთხოვნების შეუსრულებლობის შემთხვევაში ჯარიმა კომპანიის გლობალური წლიური ბრუნვის 6%-მდე შეიძლება გაიზარდოს.
ევროკომისიის პრეზიდენტმა Ursula von der Leyen-მა განაცხადა, რომ ზოგიერთი პლატფორმა ბავშვების ფსიქიკურ ჯანმრთელობასთან დაკავშირებით ზედმეტ რისკზე მიდის. მისი თქმით, AI-ის ეპოქაში ბავშვების დაცვა ახალი რეგულაციების ერთ-ერთი მთავარი მიმართულებაა.
AI ჩატბოტების გამოყენება ახალგაზრდებში უკვე ფართოდ გავრცელებულია. Ipsos BVA-ს კვლევის მიხედვით, ევროპაში 11-დან 25 წლამდე ახალგაზრდების დაახლოებით ნახევარს AI ჩატბოტებთან პირად ან ინტიმურ თემებზე უსაუბრია. კვლევა საფრანგეთში, გერმანიაში, შვედეთსა და ირლანდიაში ჩატარდა.
სხვა კვლევებიც აჩვენებს, რომ AI-ის გამოყენებას განათლებაში ყოველთვის დადებითი შედეგი არ ახლავს. OECD-ის მონაცემებით, 91 ქვეყნის მასშტაბით ბავშვები, რომლებიც სასკოლო დავალებებისთვის AI ჩატბოტებს იყენებენ, ტესტებში საშუალოდ უფრო დაბალ შედეგებს აჩვენებენ.
ევროკავშირის შემდეგი ნაბიჯი უფრო ფართო Digital Fairness Act იქნება, რომელიც ციფრულ პროდუქტებში დამოკიდებულების გამომწვევ დიზაინსა და მომხმარებლის მანიპულირების პრაქტიკებსაც შეეხება. ციფრული უფლებების ორგანიზაცია EDRi-ის წარმომადგენელი Simeon de Brouwer მიესალმა ბავშვების დაცვის მიმართულებით ახალ ზომებს, თუმცა კითხვები დასვა იმის შესახებ, რატომ არის მსგავსი მიდგომები მხოლოდ ახალგაზრდებზე ორიენტირებული.
AI ჩატბოტების განვითარებასთან ერთად ევროკავშირი ცდილობს შექმნას ჩარჩო, სადაც ტექნოლოგიური ინოვაცია და არასრულწლოვნების უსაფრთხოება ერთ სისტემაში მოთავსდება.
