Pada awal Oktober, hampir 18 tahun setelah putrinya Jennifer dibunuh, Drew Crecente menerima peringatan Google tentang apa yang tampaknya merupakan profil online baru dirinya.
Profil tersebut menampilkan nama lengkap Jennifer dan foto buku tahunan, disertai dengan biografi palsu yang menggambarkannya sebagai “jurnalis video game dan pakar teknologi, budaya pop, dan jurnalisme”. Jennifer, yang dibunuh oleh mantan pacarnya pada tahun 2006 saat duduk di bangku sekolah menengah atas, tampaknya telah ditata ulang sebagai “karakter AI yang berpengetahuan dan ramah,” menurut situs web tersebut. Tombol yang menonjol mengundang pengguna untuk berinteraksi dengan chatbotnya.
“Denyut jantung saya berdebar kencang,” kata Crecente kepada The Washington Post, “Saya hanya mencari tombol berhenti besar berwarna merah berkedip yang bisa saya tampar dan menghentikannya.”
Nama dan gambar Jennifer telah digunakan untuk membuat chatbot di Character.AI, sebuah platform yang memungkinkan pengguna berinteraksi dengan kepribadian yang dihasilkan AI. Menurut tangkapan layar dari profil yang sekarang dihapus, beberapa pengguna telah berinteraksi dengan versi digital Jennifer, yang dibuat oleh seseorang di situs tersebut.
Crecente, yang menjalankan organisasi nirlaba atas nama putrinya untuk mencegah kekerasan dalam pacaran remaja, merasa ngeri karena platform tersebut mengizinkan pengguna membuat faksimili AI dari seorang siswa sekolah menengah yang terbunuh tanpa persetujuan keluarga. Para ahli mengatakan insiden tersebut menyoroti kekhawatiran serius mengenai kemampuan industri AI dalam melindungi pengguna dari risiko yang ditimbulkan oleh teknologi yang mampu menangani data pribadi yang sensitif.
“Butuh cukup banyak waktu bagi saya untuk terkejut karena saya benar-benar telah melalui banyak hal,” kata Crecente. “Tapi ini adalah titik terendah baru.”
Kathryn Kelly, juru bicara Character, menyatakan bahwa perusahaan menghapus chatbot yang melanggar persyaratan layanannya dan “terus mengembangkan dan menyempurnakan praktik keselamatan kami untuk memprioritaskan keselamatan komunitas.”
“Saat diberitahu tentang Karakter Jennifer, kami meninjau konten dan akun tersebut, mengambil tindakan sesuai dengan kebijakan kami,” kata Kelly dalam sebuah pernyataan. Ketentuan perusahaan melarang pengguna meniru identitas orang atau entitas mana pun.
Chatbot AI, yang dapat mensimulasikan percakapan dan mengadopsi kepribadian atau detail biografi karakter nyata atau fiksi, telah mendapatkan popularitas sebagai pendamping digital yang dipasarkan sebagai teman, mentor, atau bahkan pasangan romantis. Namun, teknologi ini juga mendapat kritik yang signifikan. Pada tahun 2023, seorang pria Belgia meninggal karena bunuh diri setelah chatbot dilaporkan mendorong tindakan tersebut selama interaksi mereka.
Character, pemain utama di bidang chatbot AI, baru-baru ini mendapatkan kesepakatan lisensi senilai $2,5 miliar dengan Google. Platform ini menampilkan chatbot yang telah dirancang sebelumnya tetapi juga memungkinkan pengguna untuk membuat dan berbagi milik mereka sendiri dengan mengunggah foto, rekaman suara, dan perintah tertulis. Perpustakaannya mencakup beragam kepribadian, dari sersan motivasi hingga pustakawan yang merekomendasikan buku, serta tiruan tokoh masyarakat seperti Nicki Minaj dan Elon Musk.
Namun, bagi Drew Crecente, mengetahui profil mendiang putrinya di Character merupakan kejutan yang sangat menyedihkan. Jennifer Crecente, 18, dibunuh pada tahun 2006, dibujuk ke hutan dan ditembak oleh mantan pacarnya. Lebih dari 18 tahun kemudian, pada tanggal 2 Oktober, Drew menerima peringatan di ponselnya yang mengarahkannya ke chatbot di Character.AI yang menampilkan nama Jennifer, foto, dan deskripsi yang hidup, seolah-olah dia masih hidup.
“Anda tidak bisa melangkah lebih jauh dalam hal-hal yang benar-benar buruk,” katanya.
Kakak Drew, Brian Crecente, juga menulis tentang kejadian tersebut di platform X (sebelumnya Twitter). Sebagai tanggapan, Character mengumumkan pada 2 Oktober bahwa mereka telah menghapus chatbot tersebut.
— Brian Crecente (@crecenteb) 2 Oktober 2024
Kelly menjelaskan bahwa perusahaan secara aktif memoderasi platformnya menggunakan daftar blokir dan menyelidiki laporan peniruan identitas melalui tim Trust & Safety. Chatbots yang melanggar persyaratan layanan akan dihapus, tambahnya. Ketika ditanya tentang chatbot lain yang meniru figur publik, Kelly membenarkan bahwa kasus tersebut sedang diselidiki, dan tindakan akan diambil jika ditemukan pelanggaran.
demonstrasi
demo
info demonstrasi
Informasi mengenai king slot
king selot
king slot
king slot
kingselot
pg king slot
adu88
agoda88
aryaduta88
bajaringan
bangkit88
bangor88
bangor88
bangor88
bangor88
basket88
batu88
berita88
best88
booking88
ceria88
cipit888
dinojp88
dosen88
eyangslot88
f88bet
forwin777
gacoan888
gacor666
gambar88
gemoy888slot
gercep888
gitar88
gmail88
grandaston88
grandmercure88
hermes88
heroslot888
hoki222
holidayinn88
hotelharis88
ibis88
ibisbudget88
indonesia88
inspirasi
janjigacor88
jitujp88
jokiwin88
juragan66
jwmarriott88
kedai88slot
kilau88
kimjongun
kiw88
koi777
kucing
kudaslot88slot
kuncigitar
kuta88
madu888slot
maniaslot88
maxbet888slot
mercure88
mitra777slot
mobilelegends88
moris88
motivasi88
nagacc88
nasigoreng88
neng88
neototo88
newslot888
ngopibet88
nibung888
nonstop888slot
nova12
novotel88
oli88
omset88
orientalplay88
oxwin88
oyo88
pahala88
paris777slot
parsel88
pesiarbet88slot
pizzahut88
planet777slot
pmg888
pohon88
polaris888
prediksi88
puas88
pubg88
pulaujudi88
puma888
pusakajitu88
qqhok88
quiz88
quiz88slot
rajah
reddoorz88
registrasi88
ribut88
roblox88
rockygerung88
rumah
adu88 permainan paling top dan garansi imbal balik hasil besar bersama https://adu88.asia/
agoda88 permainan paling top dan garansi imbal balik hasil besar bersama https://agoda88.asia/
aryaduta88 permainan paling top dan garansi imbal balik hasil besar bersama https://aryaduta88.com/
bajaringan permainan paling top dan garansi imbal balik hasil besar bersama https://bajaringan.asia/
bangkit88 permainan paling top dan garansi imbal balik hasil besar bersama https://bangkit88.biz/
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama https://bangor88.com/
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama https://bangor88.info/
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama https://bangor88.net/
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama https://bangor88.org/
basket88 permainan paling top dan garansi imbal balik hasil besar bersama https://basket88.net/
batu88 permainan paling top dan garansi imbal balik hasil besar bersama https://batu88.biz/
berita88 permainan paling top dan garansi imbal balik hasil besar bersama https://berita88.biz/
best88 permainan paling top dan garansi imbal balik hasil besar bersama https://best88.asia/
booking88 permainan paling top dan garansi imbal balik hasil besar bersama https://booking88.org/
ceria88 permainan paling top dan garansi imbal balik hasil besar bersama https://ceria88.biz/
cipit888 permainan paling top dan garansi imbal balik hasil besar bersama https://cipit888.asia/
dinojp88 permainan paling top dan garansi imbal balik hasil besar bersama https://dinojp88.com/
dosen88 permainan paling top dan garansi imbal balik hasil besar bersama https://dosen88.org/
eyangslot88 permainan paling top dan garansi imbal balik hasil besar bersama https://eyangslot88.biz/
f88bet permainan paling top dan garansi imbal balik hasil besar bersama https://f88bet.asia/
forwin777 permainan paling top dan garansi imbal balik hasil besar bersama https://forwin777.biz/
gacoan888 permainan paling top dan garansi imbal balik hasil besar bersama https://gacoan888.biz/
gacor666 permainan paling top dan garansi imbal balik hasil besar bersama https://gacor666.biz/
gambar88 permainan paling top dan garansi imbal balik hasil besar bersama https://gambar88.org/
gemoy888slot permainan paling top dan garansi imbal balik hasil besar bersama https://gemoy888slot.info/
gercep888 permainan paling top dan garansi imbal balik hasil besar bersama https://gercep888.asia/
gitar88 permainan paling top dan garansi imbal balik hasil besar bersama https://gitar88.asia/
gmail88 permainan paling top dan garansi imbal balik hasil besar bersama https://gmail88.org/
grandaston88 permainan paling top dan garansi imbal balik hasil besar bersama https://grandaston88.com/
grandmercure88 permainan paling top dan garansi imbal balik hasil besar bersama https://grandmercure88.com/
hermes88 permainan paling top dan garansi imbal balik hasil besar bersama https://hermes88.biz/
heroslot888 permainan paling top dan garansi imbal balik hasil besar bersama https://heroslot888.info/
hoki222 permainan paling top dan garansi imbal balik hasil besar bersama https://hoki222.biz/
holidayinn88 permainan paling top dan garansi imbal balik hasil besar bersama https://holidayinn88.com/
hotelharis88 permainan paling top dan garansi imbal balik hasil besar bersama https://hotelharis88.com/
ibis88 permainan paling top dan garansi imbal balik hasil besar bersama https://ibis88.asia/
ibisbudget88 permainan paling top dan garansi imbal balik hasil besar bersama https://ibisbudget88.com/
indonesia88 permainan paling top dan garansi imbal balik hasil besar bersama https://indonesia88.info/
inspirasi permainan paling top dan garansi imbal balik hasil besar bersama https://inspirasi.info/
janjigacor88 permainan paling top dan garansi imbal balik hasil besar bersama https://janjigacor88.org/
jitujp88 permainan paling top dan garansi imbal balik hasil besar bersama https://jitujp88.com/
jokiwin88 permainan paling top dan garansi imbal balik hasil besar bersama https://jokiwin88.net/
juragan66 permainan paling top dan garansi imbal balik hasil besar bersama https://juragan66.biz/
jwmarriott88 permainan paling top dan garansi imbal balik hasil besar bersama https://jwmarriott88.com/
kedai88slot permainan paling top dan garansi imbal balik hasil besar bersama https://kedai88slot.biz/
kilau88 permainan paling top dan garansi imbal balik hasil besar bersama https://kilau88.biz/
kimjongun permainan paling top dan garansi imbal balik hasil besar bersama https://kimjongun.asia/
kiw88 permainan paling top dan garansi imbal balik hasil besar bersama https://kiw88.biz/
koi777 permainan paling top dan garansi imbal balik hasil besar bersama https://koi777.biz/
kucing permainan paling top dan garansi imbal balik hasil besar bersama https://kucing.info/
kudaslot88slot permainan paling top dan garansi imbal balik hasil besar bersama https://kudaslot88slot.com/
kuncigitar permainan paling top dan garansi imbal balik hasil besar bersama https://kuncigitar.org/
kuta88 permainan paling top dan garansi imbal balik hasil besar bersama https://kuta88.asia/
madu888slot permainan paling top dan garansi imbal balik hasil besar bersama https://madu888slot.net/
maniaslot88 permainan paling top dan garansi imbal balik hasil besar bersama https://maniaslot88.pro/
maxbet888slot permainan paling top dan garansi imbal balik hasil besar bersama https://maxbet888slot.com/
mercure88 permainan paling top dan garansi imbal balik hasil besar bersama https://mercure88.com/
mitra777slot permainan paling top dan garansi imbal balik hasil besar bersama https://mitra777slot.biz/
mobilelegends88 permainan paling top dan garansi imbal balik hasil besar bersama https://mobilelegends88.com/
moris88 permainan paling top dan garansi imbal balik hasil besar bersama https://moris88.org/
motivasi88 permainan paling top dan garansi imbal balik hasil besar bersama https://motivasi88.com/
nagacc88 permainan paling top dan garansi imbal balik hasil besar bersama https://nagacc88.com/
nasigoreng88 permainan paling top dan garansi imbal balik hasil besar bersama https://nasigoreng88.com/
neng88 permainan paling top dan garansi imbal balik hasil besar bersama https://neng88.biz/
neototo88 permainan paling top dan garansi imbal balik hasil besar bersama https://neototo88.com/
newslot888 permainan paling top dan garansi imbal balik hasil besar bersama https://newslot888.biz/
ngopibet88 permainan paling top dan garansi imbal balik hasil besar bersama https://ngopibet88.org/
nibung888 permainan paling top dan garansi imbal balik hasil besar bersama https://nibung888.biz/
nonstop888slot permainan paling top dan garansi imbal balik hasil besar bersama https://nonstop888slot.com/
nova12 permainan paling top dan garansi imbal balik hasil besar bersama https://nova12.net/
novotel88 permainan paling top dan garansi imbal balik hasil besar bersama https://novotel88.com/
oli88 permainan paling top dan garansi imbal balik hasil besar bersama https://oli88.org/
omset88 permainan paling top dan garansi imbal balik hasil besar bersama https://omset88.com/
orientalplay88 permainan paling top dan garansi imbal balik hasil besar bersama https://orientalplay88.com/
oxwin88 permainan paling top dan garansi imbal balik hasil besar bersama https://oxwin88.com/
oyo88 permainan paling top dan garansi imbal balik hasil besar bersama https://oyo88.live/
pahala88 permainan paling top dan garansi imbal balik hasil besar bersama https://pahala88.biz/
paris777slot permainan paling top dan garansi imbal balik hasil besar bersama https://paris777slot.biz/
parsel88 permainan paling top dan garansi imbal balik hasil besar bersama https://parsel88.com/
pesiarbet88slot permainan paling top dan garansi imbal balik hasil besar bersama https://pesiarbet88slot.net/
pizzahut88 permainan paling top dan garansi imbal balik hasil besar bersama https://pizzahut88.net/
planet777slot permainan paling top dan garansi imbal balik hasil besar bersama https://planet777slot.biz/
pmg888 permainan paling top dan garansi imbal balik hasil besar bersama https://pmg888.biz/
pohon88 permainan paling top dan garansi imbal balik hasil besar bersama https://pohon88.biz/
polaris888 permainan paling top dan garansi imbal balik hasil besar bersama https://polaris888.info/
prediksi88 permainan paling top dan garansi imbal balik hasil besar bersama https://prediksi88.biz/
puas88 permainan paling top dan garansi imbal balik hasil besar bersama https://puas88.com/
pubg88 permainan paling top dan garansi imbal balik hasil besar bersama https://pubg88.info/
pulaujudi88 permainan paling top dan garansi imbal balik hasil besar bersama https://pulaujudi88.info/
puma888 permainan paling top dan garansi imbal balik hasil besar bersama https://puma888.info/
pusakajitu88 permainan paling top dan garansi imbal balik hasil besar bersama https://pusakajitu88.com/
qqhok88 permainan paling top dan garansi imbal balik hasil besar bersama https://qqhok88.org/
quiz88 permainan paling top dan garansi imbal balik hasil besar bersama https://quiz88.biz/
quiz88slot permainan paling top dan garansi imbal balik hasil besar bersama https://quiz88slot.com/
rajah permainan paling top dan garansi imbal balik hasil besar bersama https://rajah.asia/
reddoorz88 permainan paling top dan garansi imbal balik hasil besar bersama https://reddoorz88.com/
registrasi88 permainan paling top dan garansi imbal balik hasil besar bersama https://registrasi88.com/
ribut88 permainan paling top dan garansi imbal balik hasil besar bersama https://ribut88.net/
roblox88 permainan paling top dan garansi imbal balik hasil besar bersama https://roblox88.org/
rockygerung88 permainan paling top dan garansi imbal balik hasil besar bersama https://rockygerung88.com/
rumah permainan paling top dan garansi imbal balik hasil besar bersama https://rumah.asia/
microvip888 permainan paling top dan garansi imbal balik hasil besar bersama https://microvip888.com
