젠슨 황의 AI 위험론 반박…개발 속도와 안전 책임, 무엇을 봐야 하나

26s 2026년 9월 21일 최종 수정 9월 22일 읽는 시간 약 5분

AI를 얼마나 빨리 개발할 것인가를 둘러싼 논쟁이 기업의 책임 문제로 이어지고 있다. 기술의 잠재력을 강조하는 쪽과 위험에 대비해야 한다는 쪽의 견해가 맞서는 가운데, 실제 서비스에 어떤 안전 기준을 적용할지가 중요한 쟁점으로 떠올랐다.

이데일리의 9월 21일 보도에 따르면 젠슨 황 엔비디아 최고경영자는 CBS 인터뷰에서 AI가 가까운 미래에 인류를 파멸시킬 수 있다는 전망에 반대했다. 개발 속도를 늦추자는 주장에도 비판적인 태도를 보였지만, 준비되지 않았거나 안전하지 않은 제품을 출시해서는 안 된다는 입장은 함께 밝혔다. 관련 보도

개발 속도와 제품 출시 기준은 별개의 판단이다

이번 논쟁을 이해하려면 연구를 진행하는 속도와 제품을 실제 이용자에게 제공하는 조건을 나눠 볼 필요가 있다. 연구를 빠르게 진행하면서도 위험한 기능은 제한할 수 있고, 시험 결과에 따라 특정 서비스의 공개를 미룰 수도 있기 때문이다.

예를 들어 문서 초안을 만드는 AI와 회사 시스템에 접속해 정보를 수정하는 AI는 같은 수준의 권한을 필요로 하지 않는다. 후자는 실수가 발생했을 때 영향을 미치는 범위가 넓어질 수 있다. 따라서 성능이 향상됐다는 이유만으로 모든 업무에 같은 방식으로 적용하기는 어렵다.

개발 속도에 대한 찬반만으로 기업의 안전성을 평가하면 이런 차이를 놓치기 쉽다. 어떤 기능을 누구에게 허용하는지, 오류를 발견했을 때 중단하거나 되돌릴 수 있는지를 함께 살펴야 한다.

경영자의 확신은 위험 확률을 입증하는 자료가 아니다

AI의 장기적인 위험을 둘러싼 발언에는 미래에 대한 가정이 들어간다. 위험이 거의 없다는 주장과 매우 크다는 주장 모두 어떤 기술 수준과 사용 환경을 전제로 하는지 확인해야 의미를 판단할 수 있다.

특히 특정 연도에 큰 사고가 발생할 가능성을 단정하는 표현은 실험 결과나 검증된 통계와 구분해서 읽어야 한다. 한 기업인의 전망을 업계 전체의 합의로 받아들이기도 어렵다.

기술의 편익과 위험은 동시에 존재할 수 있다. 업무 시간을 줄여 주는 서비스라도 부정확한 결과를 내놓거나 민감한 정보를 잘못 다루면 이용자에게 손해를 줄 수 있다. 장기적인 전망에 대한 논쟁과 현재 제품의 오류를 줄이는 작업은 함께 진행할 수 있는 과제다.

안전 대책은 선언보다 확인 가능한 절차가 중요하다

미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크는 조직이 자율적으로 활용할 수 있는 지침이다. 위험관리 활동을 거버넌스 구축, 맥락 파악, 측정, 관리의 네 기능으로 제시한다. 법적 인증이나 무사고 보증은 아니지만, 기업의 안전 체계를 살펴보는 틀로 활용할 수 있다. NIST AI 위험관리 프레임워크

이를 서비스 이용자의 관점으로 바꾸면 확인할 질문은 구체적이다. 회사가 AI의 사용 목적과 한계를 설명하는가. 출시 전에 어떤 오류와 악용 가능성을 시험하는가. 중요한 작업에 사람의 확인 절차를 두는가. 출시 뒤 문제가 생기면 누가 대응하는가.

예컨대 AI가 작성한 안내문을 직원이 검토한 뒤 전달하는 경우와, AI가 이용자에게 자동으로 답변하고 계약 정보까지 변경하는 경우에는 필요한 통제 수준이 다르다. 서비스 소개에서 정확도만 강조한다면 권한 설정과 사고 대응 방식도 확인할 필요가 있다.

산업의 성장 전망에도 신뢰가 포함된다

경제적인 관점에서 AI 산업의 가치는 개발 속도뿐 아니라 실제 이용자가 지속적으로 비용을 지불할 만큼 신뢰할 수 있는지에 달려 있다. 성능이 높아져도 검토와 수정에 많은 시간이 든다면 도입 효과는 줄어들 수 있다. 반대로 오류를 관리할 수 있는 업무에서는 활용 범위가 넓어질 수 있다.

따라서 AI 기업의 발표를 읽을 때는 성능 수치와 함께 사용 조건, 운영 비용, 사람의 개입 범위를 살피는 것이 유용하다. 안전 평가가 어떻게 이뤄지는지 공개하는지도 판단 근거가 된다. 다만 안전 대책의 존재만으로 사고 가능성이 사라지거나 사업 성과가 보장되는 것은 아니다.

앞으로 관찰할 부분은 주요 인사의 발언이 실제 제품 운영에 어떻게 반영되는지다. 새로운 기능을 어떤 조건으로 공개하고, 문제가 발견되면 어떤 조치를 취하는지가 개발 속도와 안전 책임의 관계를 더 구체적으로 보여 줄 것이다.

작성 기준: 2026년 9월 21일. 인물 발언은 연결한 보도를 바탕으로 정리했으며, 설명을 위한 업무 사례와 판단 기준은 별도로 구성했다.

26s