Ilmuwan Rusia Meragukan Kecerdasan Buatan Dapat Dipercaya Tanpa Syarat

Topik yang sangat penting terkait dengan teknologi kecerdasan buatan dibahas di Presidium terakhir Akademi Ilmu Pengetahuan Rusia. Jadi, selama diskusi, para ilmuwan mencoba memahami seberapa besar Anda dapat mempercayai kecerdasan buatan (AI) dan di mana garis setelah itu seseorang harus membuat keputusan sendiri.

Percaya atau tidak Kecerdasan Buatan

Jadi, menurut Presiden Akademi Ilmu Pengetahuan Rusia A. Sergeeva, AI adalah apa yang disebut "kotak hitam" yang bahkan pembuatnya sendiri tidak sepenuhnya memahami cara kerjanya. Maka muncul pertanyaan yang sangat logis: Apakah mungkin untuk mempercayai kesimpulan AI jika kita tidak dapat melacak rantai kesimpulan yang dibuat oleh "mesin" ini?

Memang, pada kenyataannya, kecerdasan buatan sudah melakukan operasi dalam jumlah yang cukup besar lebih baik dan lebih cepat daripada manusia.

Dan mungkin tergoda untuk mengabaikan sains pada prinsipnya, karena seorang spesialis dengan kompetensi rata-rata dapat mengatur tugas-tugas tertentu dan membaca jawaban dari AI.

Tetapi hanya dalam kasus kepercayaan penuh dan tanpa pandang bulu pada solusi AI, Anda bisa mendapatkan gambar yang sangat terdistorsi, yang bisa sangat mahal.

Masalahnya adalah seseorang terlalu cenderung mempercayai teknologi, tetapi dengan kecerdasan buatan, semuanya jauh lebih rumit. Masalahnya, manusia masih belum bisa menjelaskan sepenuhnya bagaimana otak manusia bekerja.

Dan dengan cara yang sama, tidak ada pemahaman tentang cara kerja AI, yang dibangun dengan analogi dengan otak manusia. Memang, jaringan saraf didasarkan pada persamaan yang cukup sederhana dari satu neuron.

Tetapi hanya dalam kasus ketika, misalnya, 600 miliar komponen tersebut terlibat dalam pekerjaan sekaligus, sama sekali tidak ada yang akan mengatakan dengan pasti koneksi apa yang terbentuk dalam jaringan saraf.

Selain itu, para ilmuwan mencatat bahwa seiring berkembangnya jaringan saraf, semakin banyak kekurangan yang ditemukan. Bagaimanapun, pada awalnya, AI belajar dari jutaan contoh yang berbeda.

Tetapi seringkali, bahkan dengan sedikit penyimpangan dari parameter yang "dipelajari" selama pelatihan, sistem mulai memberikan hasil yang salah.

Jadi contoh yang agak mencolok adalah jaringan saraf yang dibuat oleh IBM, yang sengaja dibuat untuk kebutuhan medis. Jadi, ternyata AI IBM membuat diagnosis di tingkat dokter yang cukup rata-rata. Ini berarti bahwa meskipun teknologi AI memungkinkan pembuatan sistem cerdas, mereka jauh dari sempurna.

Dan menyimpulkan diskusi, para ilmuwan sampai pada kesimpulan bahwa, mengingat tren yang terus berkembang dalam pengembangan dan penggunaan kecerdasan buatan, itu hanya perlu untuk membuat tertentu analog GOST, yang akan memungkinkan untuk menggunakan AI sepenuhnya hanya setelah sistem melewati berbagai pemeriksaan, dan para ilmuwan yakin bahwa AI tidak akan berfungsi kesalahan.

Tulis di komentar bagaimana perasaan Anda secara pribadi tentang penggunaan AI dalam kehidupan sehari-hari. Jika Anda menyukai materinya, beri peringkat dan jangan lupa berlangganan saluran. Terima kasih atas perhatian Anda!