OpenAI 成立新團隊研究如何「控制」超級 AI

OpenAI新團隊將研究控制與引導「超級人工智慧」的技術，以應對其對人類生活的影響，計劃在未來四年內提出有效的管理策略。

OpenAI宣布將成立全新團隊，準備建立可引導、控制「超級人工智慧」的方法，藉此避免持續成長的人工智慧技術影響人類生活。

而此團隊將由OpenAI共同創辦人、首席科學家Ilya Sutskever負責帶領，但目前尚未公布具體作法。

在OpenAI的看法中，超越人類的「超級人工智慧」最快會在未來10年內誕生，而這樣的技術可能不見得能讓人類生活變得更好，因此必須事先建立可以控制及限制的方法。

Ilya Sutskever認為，在目前持續加強人工智慧技術成長情況下，人類可能終究會無法掌控變得比自己更聰明的人工智慧，因此必須刻不容緩地建立相關應對辦法。

類似看法，有「人工智慧教父」稱號的加拿大電腦與心理學者Geoffrey Hinton日前也多次警告不要輕忽人工智慧帶來影響，並且警告濫用人工智慧技術可能付出高昂代價。

在OpenAI的規劃中，由Ilya Sutskever負責帶領團隊將能使用高出20%比例算力資源，藉此建構足以掌控當前人工智慧技術的管理方法，並且將與其下科學家、工程人員，以及外部研究人員合作，計畫在未來4年內提出有效管理人工智慧的技術。

OpenAI認為未來人工智慧的「思考」將比人類更快，並且能投入更多研究應用，同時也協助接管更多工作事宜，而人類將會與人工智慧一起工作。但為了達成理想狀態，人類依然必須解決人工智慧可能產生偏見、運算漏洞等問題。