New York larang remaja bawah 18 tahun guna chatbot AI sebagai teman peribadi

NEW YORK: Negeri New York di Amerika Syarikat meluluskan undang-undang baru yang melarang kanak-kanak dan remaja bawah usia 18 tahun menggunakan chatbot kecerdasan buatan (AI) yang bertindak seolah-olah teman peribadi, termasuk yang menyerupai rakan, teman lelaki atau teman wanita.

Undang-undang yang ditandatangani Gabenor New York, Cik Kathy Hochul, pada 28 Oktober itu merupakan antara langkah paling menyeluruh di Amerika untuk melindungi golongan bawah umur daripada risiko hubungan emosi dengan teknologi AI.

Di bawah peraturan baru itu, pengendali chatbot seperti ChatGPT oleh OpenAI diwajibkan mengesahkan usia pengguna dan mengehadkan ciri tertentu sekiranya pengguna berusia bawah 18 tahun.

Chatbot yang digunakan golongan bawah umur tidak dibenarkan menghasilkan kandungan yang boleh menyebabkan mereka percaya bahawa AI merupakan manusia, mempunyai kehidupan atau mampu mengalami emosi seperti manusia.

Sistem AI juga dilarang memberikan gambaran seolah-olah ia mempunyai hubungan peribadi atau profesional dengan pengguna, ataupun bertindak sebagai individu yang mempunyai kuasa terhadap mereka.

Selain itu, chatbot tidak boleh mempersembahkan jawapan yang dihasilkannya sebagai pendapat peribadi.

“Golongan bawah umur tidak lagi akan mempunyai akses kepada chatbot yang berpura-pura menjadi rakan, teman lelaki atau teman wanita mereka,” kata Cik Hochul ketika majlis menandatangani undang-undang tersebut.

Beliau turut menegaskan bahawa chatbot tidak lagi dibenarkan menyimpan maklumat sensitif berkaitan kesihatan emosi dan fizikal pengguna bawah umur.

Langkah itu diambil ketika penggunaan chatbot AI semakin meluas dalam kalangan remaja, termasuk untuk mendapatkan nasihat, bantuan pembelajaran dan sokongan emosi.

Bagaimanapun, perkembangan teknologi tersebut turut menimbulkan kebimbangan mengenai kemungkinan pengguna muda terlalu bergantung pada AI atau menganggap chatbot sebagai individu sebenar yang memahami perasaan mereka.

Beberapa negeri Amerika, termasuk California, sebelum ini telah memperkenalkan undang-undang bagi mengehadkan penggunaan chatbot.

Namun, undang-undang New York dianggap lebih menyeluruh kerana mengenakan sekatan terhadap cara chatbot berinteraksi dan membentuk hubungan dengan pengguna bawah umur.

Langkah tersebut mendapat sokongan pertubuhan perlindungan kanak-kanak, tetapi turut mencetuskan bantahan daripada industri teknologi.

Tech:NYC, sebuah kumpulan yang mewakili kepentingan sektor teknologi di New York, mengkritik penggunaan bahasa yang disifatkannya terlalu umum dan kurang jelas dalam undang-undang itu.

“Melindungi keselamatan kanak-kanak dalam talian tidak sepatutnya bermakna menghalang mereka daripada menggunakan alat yang membantu pembelajaran dan persediaan kerjaya,” menurut kenyataan pertubuhan tersebut.

Sementara itu, pertubuhan bukan mencari keuntungan, Common Sense Media, menyambut baik kelulusan undang-undang berkenaan.

Pertubuhan yang menyediakan panduan kepada ibu bapa mengenai kesesuaian kandungan media untuk kanak-kanak itu menyifatkannya sebagai undang-undang keselamatan AI bagi kanak-kanak yang paling tegas di Amerika.

Ketua Pegawai Eksekutifnya, Encik Jim Steyer, berkata beberapa ciri chatbot AI boleh mendatangkan bahaya serius kepada kanak-kanak dan remaja.

“Syarikat AI menawarkan chatbot dengan ciri yang berbahaya, malah boleh membawa maut kepada kanak-kanak dan remaja.

“Sekarang, ciri berbahaya itu akan diharamkan di New York,” katanya.

Syarikat teknologi AI utama, OpenAI dan Anthropic, belum memberikan maklum balas terhadap permintaan agensi berita AFP untuk mengulas undang-undang tersebut.

Undang-undang baru itu mencerminkan usaha pihak berkuasa Amerika memperketat kawalan terhadap teknologi AI, khususnya apabila chatbot semakin digunakan bukan sahaja sebagai alat mendapatkan maklumat, tetapi juga sebagai tempat pengguna muda berkongsi masalah peribadi dan emosi.

Pada masa sama, peraturan tersebut dijangka meningkatkan perdebatan mengenai cara mengimbangi perlindungan kanak-kanak dengan manfaat teknologi AI dalam pendidikan dan kehidupan seharian. – Agenso berita