AI 교육 중단을 촉구하는 일론 머스크

인공 지능의 핵심 인물들은 인류에 대한 위협에 대한 두려움 속에서 강력한 AI 시스템의 훈련이 중단되기를 원합니다.

그들은 잠재적 위험에 대한 공개 서한 경고 에 서명했으며 AI 시스템 개발 경쟁이 통제 불능이라고 말했습니다.

Twitter의 최고 책임자인 Elon Musk는 일정 용량 이상의 AI 훈련을 최소 6개월 동안 중단하기를 원하는 사람들 중 하나입니다.

Apple 공동 설립자 Steve Wozniak과 DeepMind의 일부 연구원도 서명했습니다.

ChatGPT의 배후에 있는 회사인 OpenAI는 최근 최신 기술인 GPT-4를 출시했습니다. GPT-4는 이미지의 개체에 대한 질문에 답하는 것과 같은 작업을 수행할 수 있는 능력으로 관찰자들에게 깊은 인상을 남겼습니다.

미래 생명 연구소(Future of Life Institute)에서 서명한 이 서한은 해당 수준에서 개발이 일시적으로 중단되기를 원하며 서한에서 미래의 위험에 대해 경고하고 더 발전된 시스템이 제기할 수 있습니다.

"인간과 경쟁하는 지능을 갖춘 AI 시스템은 사회와 인류에게 심각한 위험을 초래할 수 있습니다."라고 말합니다.

The Future of Life Institute는 비영리 조직으로, 그 임무는 "극단적인 대규모 위험으로부터 벗어나 삶에 도움이 되는 방향으로 변혁적 기술을 조종하는 것"이라고 말합니다.

트위터의 소유주이자 자동차 회사인 테슬라의 CEO인 일론 머스크는 조직의 외부 고문으로 등재되어 있습니다.

고급 AI는 신중하게 개발해야 하지만 대신 "최근 몇 달 동안 AI 연구실은 그 누구도, 심지어 제작자도 할 수 없는 더욱 강력한 디지털 마인드를 개발하고 배포하기 위해 제어할 수 없는 경쟁에 갇힌 것을 보았습니다. - 이해, 예측 또는 안정적으로 제어할 수 있습니다."

편지는 AI가 잘못된 정보로 정보 채널을 범람시키고 일자리를 자동화로 대체할 수 있다고 경고합니다.