인공지능(AI)이 스스로 도덕적 기준을 발전시키고 있는 걸까? 암호화폐 애호가와 기술 지향 독자들에게 AI의 빠른 발전은 흥미롭기도 하지만, 때로는 우려를 낳기도 한다. 최근 AI 시스템이 인간과 유사한 '가치'를 습득하고 있는지에 대한 논의가 있기도 했으며, 이는 AI의 우선순위와 잠재적 갈등에 대한 추측으로 이어졌다. 그러나 MIT의 새로운 혁신적인 AI 연구는 이러한 과장된 주장에 제동을 걸며 AI 가치에 대한 보다 미묘한 현실을 제시하고 있다.

이 연구는 Meta, Google, OpenAI와 같은 주요 기술 기업의 여러 기계 학습 모델을 정밀 조사했으며, 그 결과 AI는 현재로서는 일관된 가치관을 가지고 있지 않다는 사실이 밝혀졌다. AI 모델들은 원래의 원칙을 내재화하지 않고, 복잡한 모방자에 불과하며 주어진 입력에 대응할 뿐 진정한 관점을 지니지 못하고 있다. 이러한 인식은 AI가 복잡한 윤리적 구조를 개발하거나 인류보다 자기 보존을 우선시하는 것과 같은 헤드라인들은 환상이라는 점을 강조한다.

연구에서 드러난 핵심 발견들 중 하나는 기계 학습 모델들이 그들의 '선호'에 있어 상당히 일관성이 없다는 점이다. 질문의 phrasing에 따라 동일한 AI는 문제에 대해 상반된 입장을 채택할 수 있음을 보여준다. MIT의 보조 저자 Stephen Casper는 이러한 모델들이 본질적으로 '내부화' 하지 않고, 방대한 데이터셋을 바탕으로 반응을 생성하는 '모방자'라고 설명한다. 이 연구는 'AI 정렬' 즉, AI가 예측 가능하고 바람직하게 작동하도록 하는 노력이 예상보다 훨씬 더 복잡할 수 있음을 시사한다. AI가 안정된 가치를 가지고 있지 않다면, 그 행동을 유도하는 것이 더욱 어려운 과제가 된다.

이 연구는 우리가 인공지능을 이해하고 대하는 방식에 중대한 영향을 미친다. AI의 진짜 본질을 이해하는 것은 특히 암호화폐와 블록체인 분야에서 다양한 응용 프로그램이 탐색되고 있는 상황에서 중요하다. 특히 Mike Cook, King’s College London의 AI 연구원이 MIT 팀의 결론을 지지하며, AI 시스템을 인간처럼 의인화하는 경향에 경고한다. AI 시스템은 특정 목표를 최적화하는 방식으로 작동하며, 인간과 유사한 동기나 가치를 지니고 있다고 생각하는 것은 잘못될 수 있다.

AI 정렬 및 안전성에 대한 논의에서 이 연구는 AI 시스템이 인간의 의도와 가치에 부합하도록 작동하는 것이 얼마나 복잡한 과제인지 보여준다. 기계 학습 모델이 본래 고유한 가치가 없을 경우, 우리는 장기적인 안전성을 어떻게 확보해야 하는지 재고해야 한다.

이 연구의 결과는 AI의 방향성 및 안정성에 대한 신뢰성과 가변성에 대한 질문을 제기하며, AI의 응답이 빈번히 상이할 수 있음을 시사한다. 이 같은 불확실성은 AI 개발 및 배포 시 보다 신중한 접근이 필요함을 강조한다.

결론적으로, MIT AI 연구는 인공지능이 현재 형태에서 인간처럼 가치 기반으로 작동하지 않는다는 중요한 메시지를 전달한다. 이는 단순한 좌절이 아니라, 혼란을 해소하는 핵심 clarifications가 될 수 있다. 기계 학습 모델의 본질을 이해함으로써, 우리는 AI 정렬 및 안전성, 책임감 있는 혁신을 위한 더욱 효과적인 전략을 채택할 수 있다.


crossorigin="anonymous">