Masih ingatkah Anda dengan film The Terminator di mana kecerdasan buatan ( AI) Skynet berusaha untuk membasmi manusia dalam usaha untuk menyelamatkan dirinya sendiri? Atau film 2001: A Space Odyssey di mana sistem komputer HAL mencoba membunuh seluruh kru astronotnya karena merasa akan dimatikan?
Tampaknya, skenario-skenario di atas bisa menjadi kenyataan.
Dalam uji coba pada 2017, AI DeepMind milik Google menunjukkan bagaimana kita harus berhati-hati ketika merancang robot dan kecerdasan buatan.
Para peneliti yang ingin menguji kemampuan kolaborasi DeepMind membuat dua agen AI bersaing dalam sebuah permainan komputer. Permainan yang diulang sebanyak 40 juta kali ini mengharuskan pemainnya untuk mengumpulkan buah sebanyak-banyaknya agar bisa menang.
Para peneliti menemukan bahwa semuanya berjalan lancar apabila jumlah apel yang bisa dikumpulkan masih banyak.
Namun ketika jumlah apel menipis, kedua agen DeepMind berubah menjadi “sangat agresif”. Mereka menggunakan serangan laser untuk menjatuhkan musuhnya dan mencuri semua apel yang tersisa.
Padahal, jika kedua agen tidak menggunakan laser, mereka bisa berakhir seri dengan jumlah apel yang sama.
Keagresifan ini juga ditemukan baru muncul ketika para peneliti mengganti AI DeepMind yang lebih sederhana dengan yang lebih kompleks. Ini sesuai dengan temuan para peneliti Google sebelumnya bahwa kolaborasi lebih bisa berjalan lancar ketika agen Deepmind yang digunakan memiliki jaringan yang lebih kecil.
Menurut salah satu anggota tim Google, Joel Z Leibo, perilaku mirip manusia ini adalah akibat dari kemampuan DeepMind untuk belajar dari lingkungannya. Semakin cerdas AI, semakin cepat juga dia belajar untuk menggunakan taktik-taktik agresif.
Namun, kecerdasan AI tidak melulu jelek, seperti yang dibuktikan dalam permainan kedua di mana dua agen menjadi serigala dan satu agen menjadi mangsa. Untuk memenangkan permainan ini, kedua serigala harus bekerjasama untuk menangkap mangsa dan melindungi tangkapan dari hewan pemakan bangkai lainnya.
Dengan cepat, agen DeepMind mempelajari bahwa kolaborasi merupakan kunci kesuksesan dalam situasi tersebut.
Temuan-temuan ini memang didasarkan pada permainan komputer, tetapi mereka juga menunjukkan bahwa hanya karena dibangun oleh manusia, bukan berarti AI selalu mengutamakan kepentingan kita.
Oleh karena itu, kita perlu membangun perilaku yang ramah manusia pada AI dan mengantisipasi masalah yang mungkin muncul ke depannya.
