Според познатиот физичар Стиве Хокинг, еден ден вештачката интелигенција би можела да си развие своја свест и волја и да стане една од најголемите закани за човештвото. Ова би можело да резултира во развој на опасни и моќни автономни оружја, повикувајќи ги истражувачите дополнително да ја испитаат вештачката интелигенција и на што е способна таа. Имено, тој смета дека доколку совесно си ја сработиме работата, би можеле да избегнеме потенцијални опасности, што би довело до подобрување на животот за луѓето, бидејќи вештачката интелигенција би можела да помогне да се искоренат болестите и сиромаштијата.
Хокинг одржал говор за време на отварањето на Леверхјум центарот за истражување на иднината на интелигенцијата, кој се стреми кон истражување на последиците од брзиот развој на вештачката интелигенција. Овој центар е соработка помеѓу повеќе универзитети од Велика Британија и САД.
„Верувам дека нема голема разлика помеѓу тоа што би можело да биде постигнато од биолошки мозок и од компјутер. Според тоа следи дека компјутерите би можеле да ја имитираат човечката интелигенција, па дури и да ја надминат“, рекол Хокинг. „Накратко кажано, вештачката интелигенција би можела да биде најголемиот настан во историјата на нашата цивилизација, но би можел да биде и последниот ако не научиме како да ги избегнеме ризиците. Покрај придобивките, таа носи и опасности, како моќни автономни оружја и нови начини малцинството да го потиснува мнозинството. Би можела предизвика големо нарушување на нашата економија, а во иднина би можела да развие и своја волја – волја која ќе биде во судир со нашата. Раѓањето на вештачката интелигенција би можело да биде најдоброто, или најлошото нешто што му се случило на човештвото. А не знаеме што ќе биде.“
