(ChatGPT) GPT-4, AIG(인공지능)에 대한 Sam Altman의 의견

https://www.youtube.com/watch?v=L_Guz73e6fw&t=2839s

2023년 3월 26일 Sam Altman은 Lex Fridman의 팟캐스트에 출연하여 ChatGPT 및 AGI에 대해 이야기했습니다. 아래는 위의 영상을 바탕으로 요약한 것입니다. 해보자…

예전에는 AGI를 만들겠다고 선언하고 발표해 많은 오해와 비웃음을 받았는데 지금은 그렇지 않다는 얘기도 나온다. GPT는 AI의 초기 시스템 중 하나로 느리고 버그가 많으며 잘하는 것이 많지 않지만 초기 컴퓨터처럼 우리 삶에서 중요한 역할을 할 것이라는 점에서 놀랍다고 한다.

GPT는 인터넷의 배경 지식을 포함하여 텍스트 데이터로 학습됩니다. 이 모델에 인간의 지침을 추가하여 인간의 의도에 따라 모델을 더욱 정렬하고 보완하는 프로세스를 “강화 학습 + 인간 피드백”이라고 합니다. 이 프로세스는 매우 적은 데이터로 모델을 훨씬 더 유용하게 만들 수 있습니다.

데이터 세트는 다양한 소스에서 수집되며 많은 노력이 필요합니다. Reddit, 오픈 소스 데이터베이스, 파트너십 등과 같은 인터넷 데이터 소스를 통해 수집됩니다.

인간의 지도로 모델을 보완하는 것은 매우 흥미로운 과학이며, 그들의 유용성, 지혜, 윤리, 통일성 등을 이해하는 것이 중요합니다. 인간의 지도를 수반하는 프로세스는 매우 중요하며 앞으로도 계속 발전할 것입니다.

1. 요약

GPT-4의 개발에는 알고리즘 및 신경망 아키텍처 설계, 데이터 선택, 강화 학습을 통한 인간 감독 및 피드백 통합을 포함한 여러 구성 요소 및 단계가 포함됩니다. 파이프라인은 기존 아이디어를 잘 실행하거나 새로운 아이디어를 생성하기 위해 각 단계에서 문제 해결이 필요합니다. 완전히 학습된 시스템의 동작을 예측하는 과학적 이해 수준은 놀랍지만 새로운 현상에 대한 더 나은 설명이 여전히 필요하고 발견이 계속되고 있습니다. 모델의 성능을 측정하는 평가 프로세스는 오픈 소스이며 가장 중요한 지표는 모델이 사람들에게 얼마나 유용하고 즐거운가입니다. OpenAI 팀은 모델이 특정 입력 세트에 제공하는 가치와 유용성을 더 잘 이해하고 있습니다. 그러나 모델이 배우는 ‘무언가'(과학적 지식, 인간의 지혜 또는 둘 다)에 대해 아직 배워야 할 것이 많습니다. 모델이 어떤 종류의 추론을 할 수 있는지는 놀랍지만, 어떤 종류의 추론을 할 수 있고 추론 엔진이 아닌 데이터베이스로 얼마나 많은 처리 능력을 사용하는지에 대해서는 여전히 논쟁이 있습니다. 신경망에서는 크기가 중요하며 GPT-4의 크기는 GPT-3의 1750억 매개변수와 같이 이전 모델보다 클 가능성이 높습니다.

그들은 인간의 능력을 강화하고 우리의 삶을 개선할 수 있는 AI의 잠재력에 대해 흥분하는 것처럼 보이지만 초지능 AI를 만드는 데 따른 잠재적인 위험과 과제도 인정합니다. 귀하는 이러한 위험을 인정하고 이를 해결하기 위한 기술을 개발하는 것이 중요하다는 데 동의합니다. 또한 과거에 AI에 대한 많은 예측이 잘못된 것으로 입증되었으며 AI가 인간의 가치와 성공적으로 일치하도록 지속적으로 반복하고 학습해야 한다는 점을 인정합니다. 궁극적으로 당신은 AI가 인간의 가치에 부합하고 인간의 안전에 위협을 가하지 않는 방식으로 개발되는 경우에만 우리의 삶을 크게 개선하고 웰빙을 증진할 수 있는 잠재력을 가지고 있다고 믿습니다.

인공 지능과 의식에 대한 논의가 흥미롭지만 인공 지능 분야는 아직 진정한 인공 지능이나 의식과 유사한 것을 생산하지 못했다는 점을 기억하는 것이 중요합니다. GPT-4의 언어 처리 능력은 인상적일 수 있지만 여전히 정상적인 지능이나 의식과는 거리가 멀다.

의식이 특정 계산 매체에 연결되어 있는지 여부에 대한 질문과 관련하여 이것은 지속적인 논쟁과 연구의 주제입니다. 일부는 의식이 충분히 복잡한 시스템에서 나올 수 있다고 주장하는 반면, 다른 일부는 의식이 특정 물리적 또는 계산 구조와 연관될 수 있다고 믿습니다. 궁극적으로 이 문제는 신경과학과 철학 분야에서 해결되지 않은 채로 남아 있습니다.

2. 결론

결론적으로 GPT는 텍스트 데이터를 기반으로 한 최초의 AI 시스템 중 하나이며 강화 학습 및 인간 피드백으로 모델을 보강하는 프로세스를 통해 더욱 유용해졌습니다. GPT-4의 개발에는 알고리즘 및 신경망 아키텍처 설계, 데이터 선택, 강화 학습을 통한 인간 감독 및 피드백 통합을 포함한 여러 구성 요소 및 단계가 포함됩니다. 이러한 모델은 인간의 능력을 강화하고 우리의 삶을 개선할 수 있는 잠재력을 가지고 있지만 초지능 AI를 만드는 데 따른 잠재적인 위험과 과제도 인정합니다. 이러한 위험을 인식하고 이를 해결하기 위한 기술을 개발하는 것이 중요합니다. 또한 인간의 지혜가 개입된 과정은 매우 중요하며 앞으로도 계속 발전할 것입니다.