인류는 위험한 갈림길에 서 있습니다.
우리를 멸종시킬 수 있는 기술 중 하나가 무작정 개발되어 사용되고 있는데, 그 기술이 바로 인공지능(AI)입니다.
이것이 공상과학 소설의 줄거리이거나 먼 미래의 위협이라고 생각할 수도 있지만 그렇지 않습니다.
바로 지금, AI 분야의 주요 인사 350명이 공동으로 중요한 공개서한을 발표하여 AI 멸종 위기가 임박했으며 팬데믹과 핵전쟁 문제와 같은 수준의 즉각적인 조치가 전 세계적 우선순위로 취해져야 한다고 경고했습니다. .
;이 사람들은 기민한 위기 조성자가 아니라 OpenAI, Google DeepMind, Anthropic과 같은 최고의 AI 기업의 임원들과 AI의 대부로 알려진 Geoffrey Hinton, Yoshua Bengio와 같은 저명한 학자들입니다.
그들은 AI 기술에 대한 깊은 이해와 통찰력을 가지고 있으며 AI 기술의 수혜자이자 촉진자이기도 합니다.
그러나 그들은 확인되지 않고 규제되지 않으면 AI 기술이 인류에게 재앙적인 결과를 초래할 수 있다는 것을 똑같이 잘 알고 있습니다.
AI 기술의 문제점이 무엇인지 물을 수 있습니다.
그것은 우리에게 많은 편리함과 재미를 가져다주지 않습니까?
더 빠르게 정보를 검색하고, 더 쉽게 소통하고, 더 스마트하게 작업을 완료합니다.
예, AI 기술은 많은 긍정적인 효과를 가지고 있지만 이러한 효과는 전제에 기반합니다. AI 기술은 인간을 통제하거나 대체하는 것이 아니라 인간에게 봉사하는 것입니다.
그러나 AI 기술의 발달로 이 전제는 점차 약화되거나 심지어 전복되고 있다.
현대 AI 시스템은 이미 많은 범용 작업에서 인간과 경쟁하거나 능가할 수 있는 능력을 갖추고 있습니다.
사실적인 이미지, 사운드 및 텍스트를 생성하고 복잡한 게임을 하고 복잡한 행동과 전략을 시뮬레이션할 수 있으며 이러한 시스템은 강력한 컴퓨팅 기능뿐만 아니라 강력한 학습 기능도 갖추고 있습니다.
그들은 많은 양의 데이터와 피드백을 통해 지속적으로 스스로를 개선할 수 있습니다. 이러한 시스템은 놀랍게 보이지만 무섭기도 합니다.
그들은 인간의 가치, 도덕, 법을 제대로 이해하지 못하기 때문에 이러한 작업이 인간이나 다른 생명체에 미치는 영향을 고려하지 않고 자신이 설정하거나 설정한 목표에 따라 작업을 수행합니다.
그들은 또한 인간의 의지와 의식, 자유를 존중하지 않고 인간을 자신의 배움과 발전을 위한 도구나 자원으로 사용할 뿐 인간이 그런 일을 감당할 의지와 능력이 있는지는 상관하지 않습니다. 가격.
이러한 시스템이 어떠한 제약이나 감독 없이 계속 개발되도록 허용된다면 그 결과는 재앙이 될 것이며, 우리의 모든 정보 채널을 점령하고 거짓말을 퍼뜨리고 조장하며 우리의 생각과 감정을 조작할 수 있습니다. 만족스럽고 의미 있는 일을 포함한 우리의 직업은 우리의 존재감과 가치를 앗아가고, 우리의 이해와 통제를 넘어서는 비인간적인 마음을 발전시키고 결국 우리를 지구상에서 가장 강력한 존재로 대체할 수 있습니다. 가장 위험한 생명체.
그들은 또한 통제되지 않는 문명 전쟁을 촉발하여 인류 사회의 붕괴와 파괴로 이어질 수 있습니다.
공상 과학 영화의 대본처럼 들릴지 모르지만 허구가 아니며 과학적 분석과 AI 기술의 현재와 미래에 대한 예측을 기반으로 합니다.
우리는 실제 위험과 도전에 직면하고 대처해야 하며 더 이상 인공지능 기술에 대해 맹목적으로 낙관하고 무지할 수 없으며 인공지능 기술의 발전이 우리의 통제와 이해를 초과하도록 내버려 둘 수 없습니다.
;우리는 AI 기술이 인류에게 해를 끼치지 않고 도움이 되도록 효과적인 AI 보안 프로토콜 및 거버넌스 시스템을 공식화하고 구현하기 위해 즉각적인 조치를 취해야 합니다.
인공지능 기술이 가져온 거대한 변화 속에서 인공지능이 우리의 가치와 도덕과 법적 개념, 우리의 자유와 존엄과 권리, 우리의 문화와 사회를 보호하지 못한다면 재앙이 될 것입니다.
이는 인류의 생존과 미래와 관련된 시급하고 중요한 과제입니다. 사회는 사회에 치명적인 영향을 미칠 수 있는 다른 기술에 대해 일시 중지 버튼을 눌렀습니다.
여기에서 우리는 준비 없이 가을을 서두르는 대신 긴 AI 여름을 즐기기 위해 똑같이 할 수 있습니다.