인공 지능의 이점 및 위험

AI 안전성을 연구하는 이유는 무엇입니까?

단기적으로 AI가 사회에 미치는 영향을 유익하게 유지한다는 목표는 경제 및 법률에서 검증, 타당성, 보안 및 제어와 같은 기술 주제에 이르기까지 많은 분야에서 연구에 동기를 부여합니다. 랩톱이 충돌하거나 해킹 당하면 사소한 성가신 일이 될 수 있지만, AI 시스템이 자동차, 비행기, 심장 박동기, 자동 거래를 제어 할 경우 원하는 작업을 수행하는 것이 더욱 중요해집니다. 시스템 또는 전력망. 또 다른 단기 과제는 치명적인 자율 무기에 대한 파괴적인 군비 경쟁을 방지하는 것 입니다. 장기적으로 중요한 질문은 강력한 AI에 대한 탐구가 성공하고 AI 시스템이 모든인지 작업에서 인간보다 나아진다면 어떻게 될 것인가하는 것입니다. 1965 년 IJ Good이 지적했듯이 더 스마트 한 AI 시스템을 설계하는 것은 그 자체로인지 작업입니다. 이러한 시스템은 잠재적으로 재귀 적 자기 개선을 거쳐 지능 폭발을 유발하여 인간의 지능이 훨씬 뒤처 질 수 있습니다. 혁신적인 신기술을 발명함으로써 그러한 초 지능 은 우리가 전쟁, 질병 및 빈곤을 근절하는 데 도움 이 될 수 있으므로 강력한 AI의 생성은 인류 역사상 가장 큰 사건이 될 수 있습니다. 그러나 일부 전문가들은 AI가 초 지능화되기 전에 AI의 목표를 우리의 목표와 일치시키는 법을 배우지 않는 한 마지막이 될 수도 있다는 우려를 표명했습니다. 강력한 AI가 달성 될 수 있을지 의문을 품는 사람도 있고 초 지능 AI의 생성이 유익하다고 주장하는 사람도 있습니다. FLI에서는이 두 가지 가능성을 모두 인식하지만 인공 지능 시스템이 의도적으로 또는 의도하지 않게 큰 피해를 입힐 가능성도 인식합니다. 우리는 오늘의 연구가 미래에 이러한 잠재적 인 부정적인 결과를 더 잘 준비하고 예방하는 데 도움이 될 것이라고 믿습니다. 따라서 함정을 피하면서 AI의 이점을 누릴 수 있습니다. AI가 어떻게 위험 할 수 있습니까? 대부분의 연구자들은 초 지능 AI가 사랑이나 증오와 같은 인간의 감정을 나타내지 않을 것 같으며 AI가 의도적으로 자비 롭거나 악의적으로 될 것이라고 기대할 이유가 없다는 데 동의합니다. 대신 AI가 위험이 될 수있는 방법을 고려할 때 전문가들은 다음 두 가지 시나리오를 가장 가능성이 높다고 생각합니다. AI는 파괴적인 일을하도록 프로그래밍되어 있습니다. 자율 무기는 죽 이도록 프로그래밍 된 인공 지능 시스템입니다. 잘못된 사람의 손에이 무기는 쉽게 대량 사상자를 초래할 수 있습니다. 더욱이 AI 군비 경쟁은 우연히 AI 전쟁으로 이어질 수 있으며 이로 인해 대량 사상자가 발생할 수 있습니다. 적에 의해 좌절되는 것을 피하기 위해이 무기는 단순히 끄기가 매우 어렵도록 설계되어 인간이 그러한 상황에 대한 통제력을 잃을 수 있습니다. 이 위험은 좁은 AI에서도 존재하지만 AI 인텔리전스와 자율성이 증가함에 따라 커집니다. AI는 유익한 일을하도록 프로그래밍되어 있지만 목표를 달성하기위한 파괴적인 방법을 개발합니다. 이것은 AI의 목표를 우리 목표와 완전히 일치시키지 못할 때 발생할 수 있으며 놀랍도록 어렵습니다. 순종적인 지능형 자동차에게 가능한 한 빨리 공항으로 데려다달라고 요청하면 헬리콥터에 쫓기고 구토물로 뒤덮여 서 원하는대로하지 않고 말 그대로 요청한대로 할 수 있습니다. 초 지능 시스템이 야심 찬 지구 공학 프로젝트를 맡으면 우리 생태계를 부작용으로 혼란에 빠뜨릴 수 있으며 인간이 그것을 막으려는 시도를 위협으로 간주 할 수 있습니다. 이 예에서 알 수 있듯이 고급 AI에 대한 우려는 악의가 아니라 능력입니다. 초 지능 AI는 목표를 달성하는 데 매우 능숙 할 것이며, 이러한 목표가 우리 목표와 일치하지 않으면 문제가 있습니다. 당신은 아마도 악의에서 개미를 밟는 사악한 개미 혐오자는 아니지만 수력 전기 녹색 에너지 프로젝트를 담당하고 그 지역에 개미집이 범람 할 수 있다면 개미에게는 너무 나쁩니다. AI 안전 연구의 핵심 목표는 인류를 개미의 위치에 두지 않는 것입니다. 최근 AI 안전에 관심이있는 이유 스티븐 호킹, 엘론 머스크, 스티브 워즈니악, 빌 게이츠 및 기타 과학 기술 분야의 많은 유명 인사들은 최근 많은 AI 연구자들과 함께 AI가 제기 하는 위험에 대한 공개 서한과 언론에 우려 를 표명 했습니다. 주제가 갑자기 헤드 라인에 등장하는 이유는 무엇입니까? 강력한 인공 지능에 대한 탐구가 궁극적으로 성공할 것이라는 생각은 오랫동안 공상 과학 소설로 여겨졌 고 수세기가 넘었습니다. 그러나 최근의 돌파구 덕분에 전문가들이 불과 5 년 전에 수십 년 전으로 간주했던 많은 AI 이정표에 도달하여 많은 전문가들이 우리 생애에서 초 지능의 가능성을 진지하게 받아들이고 있습니다. 일부 전문가들은 여전히 인간 수준의 AI가 수백 년이 남았다 고 추측하지만 2015 년 푸에르토 리코 컨퍼런스 의 대부분의 AI 연구는 2060 년 이전에 일어날 것이라고 추측했습니다. 필요한 안전 연구를 완료하는 데 수십 년이 걸릴 수 있으므로 지금 시작하는 것이 현명합니다. AI는 인간보다 더 똑똑해질 수있는 잠재력을 가지고 있기 때문에 우리는 그것이 어떻게 행동할지 예측할 확실한 방법이 없습니다. 우리는 재치있게 또는 무의식적으로 우리를 능가 할 수있는 능력을 가진 것을 결코 만들지 않았기 때문에 과거의 기술 개발을 기반으로 많이 사용할 수 없습니다. 우리가 직면 할 수있는 가장 좋은 예는 우리 자신의 진화 일 수 있습니다. 사람들은 이제 우리가 가장 강하거나, 빠르거나, 가장 커서가 아니라 우리가 가장 똑똑하기 때문에 지구를 지배합니다. 우리가 더 이상 똑똑하지 않다면 우리는 통제권을 유지할 수 있습니까? FLI의 입장은 성장하는 기술의 힘과 그것을 관리하는 지혜 사이의 경쟁에서 승리하는 한 우리 문명이 번성 할 것이라는 것입니다. AI 기술의 경우 FLI의 입장은 경쟁에서 승리하는 가장 좋은 방법은 전자를 방해하는 것이 아니라 AI 안전 연구를 지원하여 후자를 가속화하는 것입니다. 고급 AI에 대한 최고의 신화 인공 지능의 미래와 그것이 인류에게 무엇을 의미하는지에 대한 매혹적인 대화가 진행되고 있습니다. 다음과 같이 세계 최고의 전문가들이 동의하지 않는 흥미로운 논란이 있습니다. AI의 향후 일자리 시장에 대한 영향; 인간 수준의 AI가 개발 될 경우 언제 이것이 지능 폭발로 이어질지 여부; 그리고 이것이 우리가 환영해야 할 것인지 두려워해야 할 것인지. 그러나 사람들이 서로를 오해하고 이야기하면서 지루한 의사 논쟁의 예가 많이 있습니다. 오해가 아니라 흥미로운 논쟁과 열린 질문에 집중할 수 있도록 가장 일반적인 신화를 정리해 보겠습니다.