Raksasa teknologi Meta mengambil langkah signifikan dengan menangguhkan sementara akses remaja ke fitur karakter berbasis kecerdasan buatan (Artificial Intelligence/AI) di seluruh platform aplikasinya secara global. Tindakan ini diambil sebagai bagian dari upaya pengembangan versi terbaru dari karakter AI yang dirancang khusus untuk memenuhi kebutuhan dan karakteristik pengguna remaja. Penangguhan ini berlaku di semua aplikasi yang dimiliki Meta, termasuk Instagram dan Facebook.
Keputusan ini bukan merupakan akhir dari pengembangan karakter AI, melainkan sebuah jeda strategis untuk memastikan produk yang dihasilkan benar-benar aman dan sesuai untuk pengguna di bawah umur. Meta berencana untuk mengintegrasikan fitur-fitur keamanan yang lebih canggih dan kontrol orang tua yang lebih komprehensif ke dalam versi terbaru karakter AI.
Langkah ini diambil di tengah meningkatnya perhatian publik dan regulator terhadap perlindungan anak-anak di lingkungan digital. Perusahaan teknologi, termasuk Meta, semakin ditekan untuk mengambil tanggung jawab yang lebih besar dalam memastikan keamanan pengguna remaja. Penangguhan ini juga terjadi menjelang sidang yang dihadapi Meta di New Mexico, Amerika Serikat, terkait tuduhan kegagalan melindungi anak-anak dari eksploitasi seksual di platformnya. Sidang ini semakin memperkuat urgensi bagi Meta untuk menunjukkan komitmennya terhadap keselamatan anak-anak.
Sebelumnya, Meta telah mengumumkan pratinjau fitur kontrol orang tua untuk karakter AI pada bulan Oktober. Fitur ini memungkinkan orang tua untuk memantau topik percakapan anak-anak mereka dengan karakter AI, memblokir karakter tertentu yang dianggap tidak pantas, dan bahkan menonaktifkan sepenuhnya interaksi remaja dengan karakter AI. Fitur kontrol orang tua ini diharapkan dapat memberikan ketenangan pikiran bagi orang tua dan membantu mereka untuk lebih terlibat dalam pengalaman digital anak-anak mereka.
Namun, alih-alih merilis fitur tersebut sesuai jadwal yang direncanakan tahun ini, Meta memutuskan untuk menonaktifkan sementara akses karakter AI bagi remaja secara menyeluruh. Alasan di balik keputusan ini adalah umpan balik yang diterima dari orang tua yang menginginkan kontrol dan transparansi yang lebih besar atas interaksi anak mereka dengan AI. Meta mendengarkan kekhawatiran orang tua dan mengambil tindakan untuk memenuhi permintaan mereka.
Versi terbaru karakter AI nantinya akan dilengkapi dengan kontrol orang tua bawaan yang lebih canggih. Kontrol ini akan memungkinkan orang tua untuk menyesuaikan pengalaman AI anak mereka sesuai dengan nilai-nilai keluarga mereka dan preferensi pribadi. Selain itu, karakter AI juga akan dirancang untuk memberikan respons yang sesuai dengan usia remaja dan akan dibatasi pada topik-topik tertentu yang dianggap aman dan bermanfaat, seperti pendidikan, olahraga, dan hobi. Pembatasan ini bertujuan untuk mencegah karakter AI terlibat dalam percakapan yang tidak pantas atau berbahaya.
Penangguhan akses remaja ke karakter AI dan pengembangan versi terbaru dengan kontrol orang tua yang lebih baik adalah bagian dari upaya berkelanjutan Meta untuk menciptakan lingkungan digital yang aman dan positif bagi semua pengguna, terutama anak-anak dan remaja. Perusahaan menyadari bahwa teknologi AI memiliki potensi yang besar untuk meningkatkan kehidupan orang-orang, tetapi juga memiliki risiko yang perlu dikelola dengan hati-hati.
Langkah yang diambil oleh Meta ini sejalan dengan tren yang lebih luas di industri teknologi, di mana perusahaan-perusahaan semakin berfokus pada keselamatan dan kesejahteraan pengguna remaja. Dalam beberapa bulan terakhir, sejumlah perusahaan AI dan media sosial lainnya juga telah melakukan penyesuaian fitur untuk remaja, menyusul gugatan hukum dan kekhawatiran dari regulator terkait dampak teknologi terhadap keselamatan dan kesehatan mental anak.
Beberapa penyesuaian fitur yang telah dilakukan oleh perusahaan lain termasuk:
Peningkatan moderasi konten: Perusahaan-perusahaan meningkatkan upaya mereka untuk menghapus konten yang berbahaya atau tidak pantas, seperti ujaran kebencian, pelecehan, dan konten seksual.
Fitur pelaporan yang lebih mudah: Memudahkan pengguna untuk melaporkan konten yang melanggar pedoman komunitas.
Batasan usia: Menerapkan batasan usia yang lebih ketat untuk mencegah anak-anak di bawah umur mengakses konten yang tidak pantas.
Sumber daya pendidikan: Menyediakan sumber daya pendidikan untuk membantu remaja memahami risiko online dan cara melindungi diri mereka sendiri.
Meta berkomitmen untuk bekerja sama dengan para ahli, orang tua, dan pembuat kebijakan untuk mengembangkan solusi yang efektif untuk melindungi anak-anak dan remaja di dunia digital. Perusahaan percaya bahwa dengan mengambil pendekatan proaktif dan bertanggung jawab, mereka dapat membantu memastikan bahwa teknologi AI digunakan untuk kebaikan dan bahwa generasi muda dapat tumbuh dan berkembang dalam lingkungan online yang aman dan suportif. Meta juga mendorong pengguna untuk memberikan umpan balik tentang cara mereka dapat meningkatkan platform mereka dan membuat pengalaman online lebih aman dan positif bagi semua orang.
