Tudósok és technológiai vezetők is figyelmeztetnek, lényegében a tűzzel játszik az emberiség a mesterséges intelligencia kontrollálatlan fejlesztésével. Sorra születnek a nyilatkozatok, nyílt levelek és kiáltványok, amelyekben kutatók, filozófusok, sőt nem ritkán maguk az iparági vezérek, a fejlesztők is aggodalmuknak adnak hangot a technológiában rejlő kockázatok és ijesztő lehetőségek miatt és fokozottabb ellenőrzést, közös biztonsági protokollokat szorgalmaznak.
Akadnak, akik az emberiség kihalásától tartanak a nyakló nélküli innováció következtében, Elon Musk feltaláló-üzletember szerint – miközben az ő cége is fejleszt robotot – a gépi intelligencia könnyen válhat az emberiség démonjává. Annak idején a már elhunyt Stephen Hawking is az apokalipszis hírnökét látta az univerzális MI-ben.
Mások ugyanakkor azt hangsúlyozzák, a gépek öntudatra ébredésének víziója túlzó, korai a világvégén aggódnunk. A két oldal érveit és ellenérveit jól leképezte Harari izraeli történész és LeCun, a Meta kutatásait irányító fejlesztőmérnök nemrégiben lefolytatott vitája.