Steve Wozniak, Elon Musk sareng langkung ti 1 nami ageung sanésna parantos nandatanganan surat terbuka anu nungtut lirén langsung genep bulan pikeun téknologi AI anu langkung kuat tibatan ChatGPT-000.
Taun ieu mangrupikeun taun intelijen buatan sapertos ChatGPT sareng Google Bard janten tren utama. Sanaos sadaya perusahaan AI ngarujuk kana produkna salaku ékspérimén atanapi memang versi béta anu tangtu, fitur-fiturna diintegrasikeun kana seueur jasa. The Future of Life Institute ayeuna nyauran jeda "umum sareng tiasa diverifikasi" ngalibetkeun "sadayana pamaén konci" di lapangan. Upami jeda sapertos kitu teu tiasa dilaksanakeun gancang, pamaréntah kedah lengkah sareng maksakeun moratorium.
Tujuan Future of Life Institute nyaéta "ngarahkeun téknologi transformatif pikeun nguntungkeun kahirupan sareng ngajauhan aranjeunna tina résiko ekstrim dina skala anu ageung." Surat 600-kecap anu disebatkeun di luhur, anu ditujukeun ka sadaya pamekar AI, nyatakeun yén kedah nyandak. putus sabab dina sababaraha bulan panganyarna labs kecerdasan jieunan spiraled kaluar kontrol sarta mimiti ngamekarkeun jeung deploying brains digital beuki kuat nu teu saurang ogé, komo panyipta maranéhanana, bisa ngarti, prediksi, atawa reliably ngadalikeun.
Anjeun tiasa museurkeun
"Laboratorium AI sareng ahli mandiri kedah nganggo jeda ieu pikeun babarengan ngembangkeun sareng nerapkeun sakumpulan protokol kaamanan anu dibagi pikeun desain sareng pamekaran intelijen buatan canggih, anu bakal dikontrol sacara ketat sareng diawasi ku para ahli éksternal mandiri." pesen terus. "Protokol ieu kedah mastikeun yén sistem anu nuturkeun aranjeunna aman tanpa ragu."
Sanajan kitu, ieu lain hartosna hiji halt kana ngembangkeun kecerdasan jieunan sacara umum, éta ngan kudu mundur ti lomba bahaya pikeun model hideung-kotak unpredictable kantos-leuwih badag kalayan kamampuhan emergent. Surat éta ditandatanganan ku 1 kapribadian, sapertos:
- Elon kasturi, CEO SpaceX, Tesla jeung Twitter
- steve wozniak co-pangadeg pausahaan Apple
- Jaan Tallinn, ko-pangadeg Skype
- Evan Sharp, ko-pangadeg Pinterest
