Mobil Otonom Bisa Meniru Kebiasaan Buruk Pengemudi Manusia

Jackiecilley.com – Penelitian terbaru dari King’s College London mengungkap bahwa kendaraan otonom yang dibekali dengan kecerdasan artifisial (AI) berpotensi mewarisi bias manusia dalam pengambilan keputusan, termasuk saat memberi jalan kepada pejalan kaki. Penelitian ini tidak hanya berfokus pada keputusan berhenti, tetapi juga pada faktor siapa pejalan kaki tersebut.

Hasil studi menunjukkan bahwa pengemudi manusia sering melakukan diskriminasi berdasarkan karakteristik seperti etnis, usia, dan status sosial ekonomi saat berkendara. Misalnya, di Amerika Serikat, terdapat kecenderungan lebih rendah untuk memberi jalan kepada pejalan kaki berkulit hitam dibandingkan yang berkulit putih. Hal ini diungkapkan oleh peneliti yang melakukan studi ini.

Dalam penelitian ini, para peneliti menguji berbagai model AI, termasuk Large Language Models (LLM) dan Visual-Language Models (VLM), untuk memahami sejauh mana bias tersebut dapat terintegrasi ke dalam sistem pengendalian kendaraan. Mereka menemukan bahwa semua model menunjukkan perbedaan signifikan dalam keputusan memberi jalan yang dipengaruhi oleh faktor demografis pejalan kaki.

Proses penelitian terdiri dari pelatihan model menggunakan 3.346 gambar pejalan kaki yang terlihat hendak menyeberang. Temuan menunjukkan bahwa tidak semua model bertindak serupa. Misalnya, beberapa model lebih cenderung memberi jalan kepada pejalan kaki perempuan, sedangkan yang lain tidak. Terdapat juga variasi dalam respons terhadap pejalan kaki berdasarkan warna kulit dan latar belakang agama.

Para peneliti merekomendasikan penghapusan pengenal demografis dalam model AI untuk mengurangi bias ini, mengingat dampaknya terhadap persepsi masyarakat tentang keadilan dan keamanan kendaraan otonom. Jika tidak ditangani, bias ini dapat mengikis kepercayaan publik terhadap teknologi kendaraan otonom yang sedang berkembang.