OpenAI CEO 샘 알트만, "슈퍼지능의 시대를 향하다"

OpenAI의 CEO 샘 알트만(Sam Altman)이 개인 블로그를 통해 인공지능(AI)의 미래에 대한 그의 비전을 공유했습니다. 그는 OpenAI가 인공지능 일반(AGI, Artificial General Intelligence)를 구축할 방법을 알고 있으며, 이제 그 목표를 슈퍼지능(Superintelligence)으로 전환하고 있다고 밝혔습니다. 이 블로그 글은 일요일 저녁에 게시되었으며, 알트만의 강한 자신감과 기술적 비전을 엿볼 수 있습니다.

---

AGI와 슈퍼지능: OpenAI의 정의

AGI는 오랜 기간 인공지능 연구자들 사이에서 논의되어온 개념으로, 인간의 대부분의 경제적 활동을 능가할 수 있는 높은 자율성을 가진 시스템을 의미합니다. OpenAI는 이 정의에 더해 AGI를 “최소 1,000억 달러의 수익을 창출할 수 있는 AI 시스템”으로도 정의합니다.

마이크로소프트(Microsoft)는 OpenAI의 초기 투자자이자 협력사로, OpenAI가 AGI를 달성하면 OpenAI의 기술에 대한 접근 권한을 잃는 조건을 포함한 계약을 체결한 바 있습니다.

알트만은 블로그 글에서 AGI를 넘어 슈퍼지능으로의 도약을 강조하며, 이는 “우리 인간의 능력을 훨씬 뛰어넘는 도구를 만들어내는 과정”이라고 설명했습니다. 그는 이러한 도구가 과학적 발견과 혁신을 가속화하고, 풍요와 번영을 크게 증대시킬 잠재력이 있다고 믿고 있습니다.

---

슈퍼지능의 도래: 알트만의 예측

알트만은 슈퍼지능이 “몇 천 일 안에” 도래할 수 있다고 예측하며, 그 임팩트는 사람들이 예상하는 것보다 훨씬 클 것이라고 강조했습니다. 그는 AI 에이전트(특정 작업을 자동으로 수행하는 AI 시스템)가 기업의 성과를 크게 변화시키고, 경제적 생산성을 극적으로 향상시킬 가능성이 있다고 언급했습니다.

하지만 그는 현재 AI 기술의 한계도 인정했습니다. AI는 여전히 “환각(hallucination)”과 명백한 오류, 높은 비용 문제를 겪고 있으며, 이를 극복하기 위해 지속적인 혁신이 필요하다고 전했습니다.

---

안전과 윤리적 도전 과제

OpenAI는 슈퍼지능 시스템의 개발 과정에서 안전 문제를 중요하게 여기고 있다고 주장하지만, 이에 대한 우려도 존재합니다. OpenAI는 2023년 7월 블로그 게시물에서 슈퍼지능이 통제 불가능해질 가능성에 대해 경고하며, “현재의 정렬 기술로는 슈퍼지능을 안전하게 통제할 수 없다”고 인정한 바 있습니다.

특히, OpenAI는 최근 AI 안전팀 해체 및 상업적 목표 강화로 인해 일부 연구자들이 회사를 떠난 것으로 알려졌습니다. 이는 OpenAI가 안전보다는 상업적 성공에 더 집중하고 있다는 비판을 불러일으켰습니다. 이에 대해 알트만은 “우리의 기록을 보면 알 수 있을 것”이라며 반박했지만, 여전히 의문은 남아 있습니다.

---

미래를 향한 OpenAI의 비전

알트만은 블로그의 마지막에서 이렇게 말합니다.

“우리의 작업이 열어갈 가능성을 생각할 때, OpenAI는 평범한 회사로 남아 있을 수 없습니다. 이러한 작업에 참여할 수 있다는 것은 행운이자 겸손함을 요구하는 일입니다.”

그는 OpenAI가 인간을 돕는 도구를 점진적으로 개발하며, 이를 통해 기술의 혜택을 전 세계에 널리 확산시킬 것이라는 비전을 공유했습니다.

---

슈퍼지능의 시대, 안전이 최우선 과제

OpenAI가 AGI를 넘어 슈퍼지능을 목표로 삼으면서, 안전하고 윤리적인 기술 개발에 충분한 자원을 투입할 수 있을지가 중요한 관건입니다. 슈퍼지능 시스템의 잠재적인 위험을 방지하고, 이를 성공적으로 전환하기 위해 OpenAI와 같은 선두 기업들이 어떤 선택을 할지 귀추가 주목됩니다.