인공지능 개념 : AGI , ASI 등

이번에 신문기사를 보다가, 샘 알트먼 OpenAI CEO가 AGI , ASI를 언급했는데 조회 해봤다.

AGI, ASI 그리고 기타 인공지능 개념

1. ANI (Artificial Narrow Intelligence, 좁은 인공지능)

• 특정 작업이나 영역에 특화된 인공지능.
• 현재 대부분의 인공지능 시스템이 해당하며, 특정 문제를 잘 해결하지만 일반적인 사고 능력은 없음.
• ex) 챗봇, 음성 인식 시스템(시리, 알렉사), 이미지 분류 알고리즘.

2. AGI (Artificial General Intelligence, 범용 인공지능)

• 사람 수준의 지능을 갖춘 인공지능으로, 다양한 작업에서 사람처럼 사고하고 학습할 수 있는 능력을 의미.
• 특정한 문제에 국한되지 않고, 학습 능력과 적응력이 높음.
• 샘 알트먼은 AGI를 OpenAI의 주요 목표로 언급하며, 이를 안전하고 책임 있게 개발하는 데 중점을 둠.
• 현재 AGI는 이론적 단계에 있으며, 기술적, 윤리적, 철학적 도전과제가 많음.

3. ASI (Artificial Superintelligence, 초지능)

• 인간의 모든 지적 활동을 초월하는 수준의 인공지능.
• 이론적으로 AGI가 자기 개선을 통해 도달할 수 있는 단계로, 인간의 상상력, 문제 해결 능력, 창의성을 훨씬 능가.
• 샘 알트먼은 ASI의 잠재적 위험성과 그에 따른 안전 관리 필요성을 강조.
• 대표적인 논의: "AI가 인간 문명을 변화시킬 잠재력을 가지며, 잘못 관리되면 위험 요소가 될 수 있다."

4. Self-supervised Learning (자기 지도 학습)

• 대량의 데이터를 활용해 모델이 스스로 학습하는 방식.
• 현재 AGI로 나아가기 위한 주요 접근 방식 중 하나.
• ex) GPT 모델, ChatGPT 등에서 활용.

5. RLHF (Reinforcement Learning with Human Feedback, 인간 피드백을 활용한 강화 학습)

• 인간의 피드백을 통해 AI 모델의 성능과 윤리적 판단을 개선하는 기법.
• OpenAI에서 ChatGPT를 훈련할 때 사용된 방법.

6. Explainable AI (XAI, 설명 가능한 인공지능)

• AI 모델의 작동 방식과 결과를 사람이 이해할 수 있도록 설명하는 기술.
• AGI와 ASI 시대에서는 AI의 신뢰성과 책임성을 확보하기 위한 필수 요소로 간주됨.

7. Friendly AI (우호적 인공지능)

• 인간의 이익을 우선으로 하고, 윤리적이며 통제 가능한 인공지능.
• AGI와 ASI를 개발할 때 필수적으로 고려되는 개념.
• 대표적인 논의: 닉 보스트롬(Nick Bostrom)의 저서 Superintelligence.

8. Ethical AI (윤리적 인공지능)

• AI가 윤리적이고 공정하게 작동하도록 설계하는 개념.
• AGI나 ASI가 가진 막대한 영향력을 고려할 때, AI 시스템이 사회적 책임을 다하는지 검토해야 함.

---

개인적으로는 인공지능에 대해선, 긍정적이다.

제대로 활용을 하도록 노력하고

혹시라도 터미네이터, 스카이넷이 나오면 그때 생각하자..