인간과 AI의 공존을 위한 새로운 길
AI가 우리의 삶을 혁신하고 있는 지금, 우리는 얼마나 이 기술을 제대로 이해하고 있을까요? 2024년 SXSW LIVE에서 진행된 "Rebooting AI from the Ground Up" 세션은 AI의 윤리적 개발과 사용에 대한 깊은 통찰력을 제공하며, 특히 데이터 과학자이자 Humane Intelligence의 CEO인 Ran Chowri 박사의 대담이 주목받았습니다. 그녀는 학제간 협력, AI 모델 평가, 오픈소스의 중요성 등 다양한 주제를 통해 AI의 책임감 있는 미래를 제시했습니다.
학제간 접근: 기술과 인간의 접점을 찾다
Chowri 박사는 기술 분야 경력 이전에 비영리 단체, 공공 정책 기관, 학계에서 활동하며 쌓은 경험이 AI 문제를 독특한 관점에서 바라보는 데 큰 영향을 미쳤다고 말합니다.
"저는 제 경력을 기술 분야에서 시작하지 않았습니다. 당시 실리콘밸리 문화는 인간에 대해 이야기했지만, 실제로는 인간을 이해하려는 노력이 부족했습니다."
그녀는 사회 과학적 관점을 AI 개발에 통합하는 것이 필수적이라고 강조하며, 다양한 학문 분야가 협력해야만 AI가 진정으로 인간 중심적인 방향으로 나아갈 수 있다고 역설합니다.
AI 모델 평가: 편향을 넘어 공정함으로
AI가 편향된 결과를 낼 때, 우리는 이를 어떻게 감지하고 수정할 수 있을까요? Chowri 박사는 Accenture에서 책임감 있는 AI 분야를 개척하며 편향 감지 및 완화 도구를 개발했던 경험을 공유했습니다.
- 비관론: 법적 의무가 부족해 기업 내부에서 변화를 이끌기 어렵다는 점을 지적합니다.
- 낙관론: 생성형 AI의 등장으로 대중이 직접 편향 문제를 인식하고 질문하기 시작했다는 점은 긍정적입니다.
Humane Intelligence를 통해 소외된 커뮤니티 관점에서 AI 모델을 테스트하고 문제 해결 파이프라인을 제공하는 시스템을 구축하는 데 집중하고 있습니다.
사용자의 권한 강화: AI 시스템 ‘수리권’을 논하다
현재 대부분의 기술은 사용자가 단순히 수동적으로 받아들이는 구조로 설계되어 있습니다. Chowri 박사는 이러한 구조적 문제를 지적하며, 사용자가 AI 시스템에 대한 선택권을 갖고 문제를 제기할 수 있는 방안을 모색해야 한다고 주장합니다.
"우리가 가진 기술은 다른 사람이 만든 것을 단순히 받는 존재로 제시되어 왔습니다."
그녀는 시장 다양성, 오픈소스, 시민 사회 단체의 역할이 이러한 문제를 해결하는 데 중요한 열쇠라고 강조합니다.
오픈소스 AI: 혁신과 접근성을 위한 필수 요소
오픈소스 AI는 기술 접근성을 확대하고 혁신을 촉진하는 데 중요한 역할을 합니다. 하지만 악의적인 행위자에게 취약할 수 있다는 점도 고려해야 합니다. Chowri 박사는 오픈소스가 특히 예비 기술 인력에게 학습과 성장의 기회를 제공한다며 그 중요성을 설명했습니다.
"저는 GitHub에서 어설픈 코드를 찾아내고 함께 붙이는 방식으로 배웠습니다. 이것이 우리가 배우는 방식입니다."
미래 직업 전망: 알고리즘 감사 전문가의 시대
AI가 프로그래밍 직업을 자동화할 가능성이 커지면서 새로운 직업 영역이 부상하고 있습니다. Chowri 박사는 알고리즘 감사 및 평가를 미래 직업으로 제시하며 이를 위한 교육과 인프라 구축이 필요하다고 강조했습니다.
- 정책 연구, 프로그램 관리와 같은 질적 직업도 중요성이 커질 것이라고 예측합니다.
- 금융 분야의 모델 위험 관리 전문가처럼 알고리즘 평가 전문가도 주요 직업군으로 자리 잡을 가능성이 높습니다.
글로벌 협력과 규제: 국경 없는 기술, 국경 없는 규제
AI는 국경 없는 기술이므로 글로벌 규제가 필요합니다. 그러나 최근 국가 주도의 "소버린 AI" 모델 개발로 인해 협력이 약화되고 있다는 우려도 존재합니다. 그녀는 기후 변화 대응에서 IPCC와 같은 국제 협력 사례를 언급하며, 국가 이익을 넘어선 과학적 협력이 중요하다고 강조했습니다.
결론: 책임감 있는 AI를 향한 여정
Ran Chowri 박사의 대담은 AI 기술 발전과 함께 제기되는 윤리적 문제에 대한 깊은 통찰력을 제공합니다. 그녀는 학제간 협력, 사용자의 권한 강화, 오픈소스 활용 등 다양한 측면에서 책임감 있는 AI 구축 방향성을 제시하며, 특히 글로벌 협력을 통해 긍정적인 미래를 만들어야 한다고 강조합니다.
#AI #책임감있는AI #RanChowri #HumaneIntelligence #오픈소스 #AI편향 #미래직업 #알고리즘평가 #글로벌협력 #SXSW2024
'이슈 > AI' 카테고리의 다른 글
| AI 시대에도 살아남는 법: 미래학자가 말하는 필수 역량과 직업의 미래 (2) | 2025.03.18 |
|---|---|
| AI와 인간의 창의성 융합: 스티븐 코틀러가 말하는 미래 혁신의 비밀 (0) | 2025.03.17 |
| AI 혁명, 위협인가 기회인가? 데이비드 로완의 통찰 (0) | 2025.03.17 |
| "AI 전쟁의 서막: OpenAI vs. DeepSeek, 그리고 글로벌 AI 패권의 향방" (0) | 2025.03.17 |
| “AI는 없는 인간만의 뭐가 있다? 그런 말 하는 사람 다 밀려났다” – 장강명 작가 인터뷰 (0) | 2025.03.16 |
