2023 SEOUL FUTURE FORUM 참석 후기 - ALL IN ai Beyond the Limits

소개영상

 

0.

좋은 기회로 국내 AI 포럼에 친구와 대학생 신분으로 무료 참석하게 되었다. 다양한 기업인과 현직 교수가 세션을 발표했는데, 알고있던 내용도 많았지만 생각지도 못한 관점에서 인사이트를 주는 내용도 있었다. 인상 깊었던 내용들을 정리해두고 싶어 오랜만에 이 블로그에 글을 쓴다.

 

AI 혁명과 딥페이크 혼란

1.

더욱 정교해진 딥페이크 기술의 사회 혼란이 우려된다. 단순 허위 사실 유포부터 사이버 뱅킹 보안과 불법 포르노 문제까지, 법적 처벌에 대한 명확한 선이 정해지지 않았고 더욱 심각한 것은 진실마저 거짓으로 의심하게 된다는 점이다.

 

2.

풍자하는 문화가 활성화되는 면도 있지만 물량의 지나친 양상으로 진위여부 판단 자체가 어렵다. 워터마크 의무화 등이 논의되지만 딥페이크가 맞는지 아닌지 바로 입증할 수 있는 방법이 현재로서는 없다.

 

3.

모션/표정/음성 인식 기술의 발전은 콘텐츠를 더욱 정교하게 만든다. 영상 콘텐츠의 접근성 향상과 메타버스의 발전은 비즈니스에 최적화 될 수 있지만, 청각 장애 극복과 같이 인류에 도움이 되겠다는 진정성도 잃지 않기를 바란다.

 

AI 시대의 새로운 질서와 기업의 대응

4.

기후 변화와 같이 AI 발전도 '속도'가 중요하다. 예상과 대응을 위한 시간이 충분하지 않기에 발생하는 윤리적 문제들을 파악할 필요가 있다. OECD, 유네스코의 AI 윤리 규정은 공정성/책무성/투명성을 강조한다.

 

5.

대표적으로 비윤리적/편향적 데이터나 저작권/개인정보 침해 데이터 학습, 팩트보다 유려함을 중요시하는 챗봇의 할루시네이션 (환각), 도출 결과의 블랙박스 (출처 확인 불가), 허위 사실 유포 및 범죄 활용 등의 문제가 있다.

 

6.

AI 규범 논의에 미국은 개인의 자유를 중시하고, 유럽은 개인의 인권을 중시하며, 중국은 국가를 우선시한다. 별도의 AI 국제 기구 개설도 논의되고 있지만 중국과 러시아는 반대하는 입장이다.

 

7.

누가 룰을 만들 것인가. 자동차 역시 편리한 이동 수단인 동시에 생명을 위협한다. 안전 벨트가 발명되고 무상 특허로 공유되기 까지 24년의 간극이 있었다. 이유는 상업성 뿐만 아니라 사용자의 불편함도 있었다. 칼은 죄가 없다.

 

8.

직업에 있어서도 3R 정책의 필요성이 강조된다. Retraining (재훈련)/Reducing (근로 시간 단축)/Redistribution (소득 재분배)는 앞으로 선택이 아닌 필수가 될 것이다. 결국 목표는 Advancing AI for better life.

 

OPTIMAL AI

9.

검색은 인식의 영역이고 챗봇은 생성의 영역이다. ChatGPT는 검색 엔진을 완전히 대체할 수 없다. 할루시네이션을 배제하더라도 정답이 반드시 현답은 아니기 때문이다. 팩트가 전부가 아니라는 점은 인간 관계도 똑같다.

 

10.

교육은 온라인/맞춤형/게임형을 넘어 코칭형으로 변화할 것이다. 금융 분야 역시 변하지 않으면 살아남지 못한다. FINTECH가 아닌 TECHFIN이라는 신조어가 나왔다. 키오스크와 은행 업무 등에도 AI가 적극 도입될 것이다. 핵심은  Banking is necessary, Banks are not.

 

11.

OPTIMAL AI. 적응하지 못하면 금붕어 된다. 과거는 검색하고, 현재는 사색하고, 미래는 탐색하라.

 

글로벌 패권 경쟁 속 국내 IT 기업의 기회

12.

네이버의 검색 엔진 국내 점유율은 과거 90% 대에서 구글에게 30%를 내준 50% 대까지 떨어졌으며, 요즘은 유튜브까지 검색 엔진 역할을 겸하고 있다. 

 

13.

하드웨어는 소프트웨어에게, 소프트웨어는 AI에게 시장 파이가 먹혔고, GPT 스토어의 발표로 신규 서비스와 기존 서비스 개선을 아우르는 슈퍼 앱 생태계의 탄생이 기대되고 있다. CLI에서 GUI로, 그 다음 형태는 자연어 인터페이스일까?

 

14.

GPT 크리에이터의 시대가 왔다면 과장일까. 애플이 4년 동안 API와 SDK를 개발하고 앱스토어를 출시, 수 많은 앱을 양산했던 것을 OpenAI는 1년 만에 GPT 빌더를 개발하고 GPT 스토어를 출시, 수 많은 GPT를 양산할 것으로 보인다.

 

15.

흥미로운 점은 애플은 혁신적인 디바이스를 선보인 후 기술을 개발했고, OpenAI는 혁신적인 기술을 먼저 발표했다. Gen AI가 내장된 새로운 디바이스가 우후죽순 생겨날 시장에서 제조 강국인 우리나라는 무엇을 할까. 엔비디아 중심의 반도체 시장에서 AI 칩을 개발할까? 손목시계, 네비게이션, 스마트 안경, 로봇? 클라우드 서비스와의 제휴 역시 중요해 보인다.

 

16.

AI Boys. 춘추 전국 시대의 중심인 OpenAI에서 온갖 헤프닝이 일어나고 있다. 드라마인지 경영적 이유인지 추측이 난무하지만 글을 쓰는 지금 까지도 뚜렷한 이유는 발표되지 않았다. 어쩌면 끝까지 밝혀지지 않을지도 모른다.

 

17.

LLM을 자체적으로 개발하는 것은 최소 1000억 이상의 투자가 요구된다. API를 wrap up하거나 fine-tuning 모델을 private cloud에 넣는 형태가 다수지만 장기적으로 보면 임기응변일지도.. 거대 기업의 움직임을 읽고 적응할 수밖에 없다.

 

18.

LLM은 우아하지 않고 리소스를 어마어마하게 먹지만 성과는 놀랍다. 새로운 모델 패러다임이 아닌 엔지니어링 파워만 중요하다면 이는 학계의 역할이 아니기에 대다수의 연구자는 할 일이 없다. OpenAI, 딥마인드, xAI의 행보가 기대된다.

 

19.

스타트업이나 SI에게 기회가 있을까? 앱스토어 이후 카카오톡이 출시하기 까지 1년 넘게 걸린 것을 보면 GPT 생태계 안에서 스타트업에게 6개월 ~ 1년 정도의 기회가 있을 것으로 보인다. 중견 기업 이상은 주권이 있는 튜닝 모델을 원하는데 이것이 SI의 방향성이 되지 않을까 싶다.

 

20.

한국은 어떤 입장을 취해야 할까? 경제/사회적 불평등 해소, 현대 사회의 외로움 문제, 기후 위기 등에도 관심을 갖자. 너무 돈 버는 얘기만 하면 해외 AI 안전 거버넌스 논의에 참여할 자격이 있나.. AI는 영원히 완벽할 수 없다. 다양한 SF 영화나 소설을 접하는 것이 미래의 모습을 그려보는 것에 생각보다 많은 도움이 된다.

 

데이터로 사람을 행동하게 한다

21.

ChatGPT 같은 챗봇이 멍청하다고 하는 것은 사용자가 잘못 사용하고 있을 확률이 높다. 챗봇은 검색엔진이 아니다. 친구와 대화한다고 생각하고 주제/상황/양식/분량/+a를 제공하자. 

 

22.

모델을 fine-tuning 할 때 조절하는 temperature, top-p 값도 중요하지만 결국 책 많이 읽고 단어/표현/감수성이 풍부한 사람이 프롬프트 엔지니어링을 잘한다. 프롬프트로 장사하는 새로운 시장도 열렸다.

 

23.

OpenAI는 시장 창조자, 거대 기업은 시장 지배자, 그리고 그 위의 서비스 생산자와 활용자로 나뉜다. 얕은 수준의 데이터 분석과 코딩은 전부 대체된다. 슈퍼 앱이 지배하는 생태계에서 다른 앱들과 스토리라인을 만들어 생태계에 녹아 드는 것이 중요.

 

24.

조직은 CEO만 사람이고 나머지는 다 AI이거나, CEO만 AI고 나머지는 다 사람인 두 가지 형태로 나아갈 것이라는 극단적인 예측도 나온다. 회사 신입보다는 업무 경험이 많은 분들이 오히려 AI를 수용하고 가설을 세워야 한다. 리스크를 감수해 지적 재산권을 잡아 큰 돈을 벌 기회가 생길 지도 모른다.

 

25.

사람들은 데이터를 보면 행동한다고 믿는다. 데이터가 계속해서 눈 앞에 배달되는 시대가 올 것이고  이에 사실상 행동을 통제받게 될 것이다. 하지만 집단지성은 선을 향하기에 너무 걱정할 필요는 없다.

 

Data & AI

 

생성 AI 기반 고객 경험 혁신

26.

수능 이후 애플 관련 액세서리 매출이 700% 증가했다고 한다. 도대체 CX (고객 경험)이란 무엇일까? CS (고객 응대) 및 UI & UX와는 다른 개념이다. 향초와 양키 캔들의 차이라고 보면 된다.

 

27.

의미를 먼저 설계하고 AI는 도구로 써라. 도미노 피자는 피자의 핵심이 귀찮음임을 간파하고 배달 로봇과 Zero Click 서비스를 구축했다. Mass Marketing에서 Micro Segmenting으로, 고객을 개별 분석하는 것이 트렌드.

 

28.

고객 마이크로 클러스터링에 생성  AI를 활용하자. Garbage in, Garbage out이기에 AI를 활용해 쓰레기 데이터를 걷어내는 것 또한 중요하다. '초'개인화 시대에서 데이터로 경험을 디자인하라.

 

29.

'제품'보다 '의미'를 구매하는 시장에서 디자인에 있어 '데이터'의 역할은 무엇이고 '경험' 설계를 어떻게 입체적으로 할 수 있을지가 포인트. 스마트 티비 홈 화면에 개인 페르소나 맞춤형 경험 문구를 생성하자 클릭률이 0.X%에서 비약적으로 상승했다.

 

30.

인간은 다양한 관점에서 나름의 인사이트를 뽑아내는 존재이기에 챗봇은 검색엔진을 대체하지 못한다. 하지만 이커머스는 완전히 판도가 바뀐다. 컴알못이 노트북을 구매한다면 맥락 기반의 쇼핑 추천은 너무나 매력적인 방법이다.

 

31.

경험을 제외한 기능적 가치만 따지만 모든 사람이 가성비만 쓸 것이다. 코로나 때 반짝 뜬 프리미엄 시장이 저물고 이를 넘어 마케팅에 '끌리는 경험'이 필요하다. 여기에 생성 AI의 역할이 중요하게 작용할 것이다.

 

AI와 비즈니스 그리고 저작권

32.

메타버스와 NFT는 기대에 부응하지 못했지만 딥러닝은 다르다. 만약 LLM이 사람처럼 생각하고 사람만큼 데이터를 습득한다면? 두 눈이 한 쌍의 카메라라면 사람은 4살까지 대략 10억 장의 사진 데이터를  거쳐간다고 한다.

 

33.

Feature Engineering 인력을 LLM 데이터 학습에 집중시킨다면 상당한 비용 절약이 있을 것이다. 사람들은 Pre-trained  Model에 약간의 추가 데이터셋과 fine-tuning으로 손 안대고 코풀기가 가능하다. 스케일에 따른 한계 효용이 분명 하기에 거대 기업이 천문학적인 추가 학습 비용을 투자하고 있다.

 

34.

ChatGPT는 1억명의 고객 확보 시간이 틱톡보다 빨랐다. 하지만 DAU/MAU를 보면 은근 자주 사용되진 않는다. 만약 비즈니스를 한다면 진부하지만 차별화된 가치/명확한 책임 범위/실질적인 수익이 중요하다.

 

35.

발 빠르게 유니콘이 된 character.ai도 GPTs 발표에 사실상 정체성을 잃었다. 웬만한건 거대 기업이 훨씬 잘한다. 그럼에도 체급이 클 수록 민첩성이 느리니 그 간극에서 비즈니스 기회가 존재할 것이다.

 

36.

AI 혁신 뒤에는 데이터 저작에 적극적인 투자가 있었다. AI 활용으로 저작 활동을 돕고 보호해서 저작권과 데이터의 선순환 구조를 구축해야 한다.

 

+++

기술 발전과 세상이 변화하는 속도가 너무 빠르다. 종교가 없는 과학은 절름발이요, 과학이 없는 종교는 맹인이라고 하듯 뭐든 균형이 중요하다고 생각한다. 많은 사회 질서들이 붕괴될 것이고 나 역시 그 중심에 있기에 정신 똑바로 차려야겠다. 현실의 벽이 높더라도 눈을 감고 멈춰서는 것과 눈은 뜨고 도망치는건 큰 차이다.

 

본 내용은 MTN의 '2023 SEOUL FUTURE FORUM'를 바탕으로 작성되었습니다.