[KT 에이블스쿨 - IT 트랜드] 미래의 AI 최종병기, AGI (General AI)

     



    KT 에이블스쿨에 참여하면서 IT 트렌드 스터디를 운영 중이다. 
    그 발표를 위한 자료로 오늘은 AGI를 준비했다. 



    AGI 란 

    [ 용어 ]

    인공 일반 지능 (Artificial General Intelligence)

    = 범용 인공 지능

    = General AI

    = Strong AI (강 인공지능)  


    AGI는 AI의 하위 집합


    [ 특징 ] 

    - 사람과 유사한 범위의 지능을 갖춘 인공지능

      특정 조건에 국한되는 약한 AI와 달리 전 범위, 상황에 인간처럼 적용할 수 있는 인공지능

    - 개발자가 AI 학습을 시키는게 아닌, 스스로 학습하고 활동을 수행하는 능력을 가지고 있음

      인간의 성장과 유사하게 스스로 학습하고 성장 

      프로그래밍되지 않은 작업을 수행할 수 있는 다재다능한 AI 

    - 약 인공지능은 신경망인 반면에, 강 인공지능인 AGI는 신경망의 집합

      신경 블록이 상호 연결되어 유기적 정보 처리가 가능한 복잡한 시스템

    - 아직까지는 현존하지 않는 SF영화 속에서 볼 법한 미래의 AI 

    (엔비디아의 젠슨 황이 말하기론 28년도에 AGI가 실현될거라 얘기함) 



    [ AI 관계정리 ]

    AI의 활용 범위를 기준으로 구분하면,

    AI > AGI (strong AI) vs Narrow AI (week AI)가 있음 


    AI를 학습 기준으로 구분하면,

    인공지능 > 머신러닝 > 딥러닝  






    Narrow AI와 AGI 비교

    " Narrow AI = Week AI = 약 인공지능 = 약한 AI = 특화 인공지" 

    AGI (strong AI)와 비교되는 Narrow AI 는 특정 분야에서만 작동하는 인공지능 







    AGI 5단계 

    23년 11월 구글 딥마인드의 연구자들은, 일반인공지능에 이르는 5단계 분류를 제안함

    (마치 자율주행 5단계를 미국 연방도로교통안전청(NHTSA)에서 최초로 정의한 것처럼) 

    AGI에 대한 궁극적인 기준을 세우는 것이 아니라, 현재의 혼란상을 극복하는 것이 주목적

     

    5단계에 이르러야, 인간을 능가하는 완전한 AGI(일반 인공지능)이 완성되는 것 

    레벨 1단계의 AGI로는 llm 기반의 chat GPT, 구글 바드, 메타 달리가 있음 

    Narrow AI는 

    4단계 : 딥블루(IBM이 만든 체스 AI), 알파고(구글 딥마인드)

    5단계 : 알파제로(독학으로 바둑·체스 등을 독파한 AI)와 스톡피시(체스 AI의 최강자)



    [ GPT는 AGI 인가 ]

    Microsoft Research의 논문에는

    GPT-4가 다양한 영역에 걸쳐 범용적인 작업을 수행하는 능력을 보여주기에 

    AGI에서 기대되는 기능을 입증한다고 주장함


    하지만 GPT-4는 AGI의 엄격한 정의를 완전히 충족하지는 못하는 것으로 의견이 모아지며 

    1단계의 AGI로 결정됨


    오픈AI는 AGI 개발을 위한 '아라키스' 프로젝트를 진행했으나 성능 부족으로 폐기가 되었고

    이로인해 샘 알트먼 CEO 해임 사태가 있었음 (23년 11월) 






    AGI 활용예시

    1. 의료 

    이 분야에서는 진단과 치료를 위해 현재도 다양한 인공지능과 로봇 기술이 활발히 쓰이고 있는데, 

    AGI 기술이 실현된다면 의사 대신 정교한 수술을 수행


    2. 자율주행 

    자동차 산업에서는 완전한 자율주행 기술을 실현할 수 있음 


    3. 사회적 이슈 해결

    기후 변화와 같은 대규모 문제를 해결하는 데 도움이 될 것 


    4. 자동화

    광범위한 능력을 갖춘 AGI는 일반적으로 인간만이 수행할 수 있는 추상적 사고와 관련된 작업을 자동화할 수 있음

    복잡한 작업과 워크플로가 AI 기반으로 전환되어 조직에서 더 많은 시간과 비용을 절약할 수 있음






    AGI 우려사항 

    1. 인력 대체 

    Narrow AI 3단계(이미지 AI 등)과 아직 개발되지 않은 2단계 AGI이 급격한 사회변화를 가져오기 시작하고, 

    Narrow AI 4단계(딥블루·알파고)급이 널리 퍼지거나, AGI이 3단계에 도달하면, 대규모 실업사태를 초래할 수 있을 것이라고 전망함

    일자리 대체와 같은 사회적, 경제적, 정치적 문제 또한 야기


    2. 통제 불능

    통제 불가능해지고 인간의 지능을 뛰어넘을 수도 있다는 우려가 있어 

    일부 기업이나 전문가는 통제가 가능해질 때까지 AGI 개발을 하면 안된다는 의견이 있음

    진정한 AGI를 개발하기 보다는 Narrow AI 를 여러 서비스 시스템으로 분리해 관리하자는 제안이 있음 


    3. 소유권 문제 

    인간이 AGI를 제어하더라도, 빅테크 기업이 소유하면 대표가 AGI를 통제, 제어할 수 있으며

    어떤 종류의 힘을 부여해 악용할 우려가 있음


    4. 귄위 이전 

    AGI로 자율주행을 했을때 사고가 나면 책임은 누구에게 물어야하는지

    의사 대신 AGI가 진단을 했을때 누구에게 권위를 줘야하는지 기준을 마련해야함 

    법률, 언론 등의 분야에서도 비슷한 양상으로 벌어질 것







    참고자료 

    삼성SDS : 인공 일반 지능(AGI)이란? 개념, 적용 기술, 그리고 인간 삶에 미칠 영향

    연합뉴스 : [시사금융용어] 범용인공지능(AGI)

    기술블로그 : 일반인공지능 AGI 얼마 안남았다 ? 

    기술블로그 : 오픈AI의 일반 인공지능 개발 실패와 CEO 샘 알트먼의 해임 및 복귀









    댓글

    댓글 쓰기

    이 블로그의 인기 게시물

    [KT 에이블스쿨 - IT 트랜드] 국내외 AI 관련 규제

    이미지
    KT 에이블스쿨에 참여하면서 IT 트렌드 스터디하고있는데, 발표자료로 오늘은 ChatGPT 4-o 내용을 준비했다.  NIA (한국지능정보사회진흥원)의 디지털 법제 Brief 중  AI 규제와 관련된 내용 3개의 보고서를 읽고 발표에 참고했다.  해외 "사법기관 인공지능 이용지침" - 보고서 링크 - 발행일 24.02.15 이 보고서에는 사법기관에서 AI 를 어떻게 이용하면 되는지를 지침으로 정의한 캐나다와 영국 사례를 소개했다.  캐나다와 영국은 23년 12월에 이를 마련했고, 호주와 뉴질랜드 등 같은 영연방 국가들도 유사한 지침을 내렸다.  캐나다 캐나다 "법원의 인공지능 이용 원칙 및 지침" (23.12.10) AI 사용을 알리는 문구 명시   작성한 문서의 가장 앞쪽에 이런 문구를 명시해야함 "Artificial intelligence(AI) was used to generate content in this document" (인공지능을 사용하여 이 문서의 컨텐츠를 생성하였습니다) 7가지 원칙  (책무) 의사결정에 인공지능을 사용할 가능성에 대해 책임 (기본권 등 존중) 인공지능 사용으로 인해 사법 독립성, 사법 접근권 및 차별 없이 공정 한 심리를 받을 권리 등이 침해되지 않도록 보장 (비차별) 인공지능 사용으로 차별 이 재생산되고 악화되지 않도록 보장   (정확성) 인공지능의 이용에 사용된 데이터는 확인 및 검증된 데이터만 사용   (투명성) 인공지능이 사용하는 모든 데이터 처리방법에 대해 외부 감사 실시 (보안) 기밀성 프라이버시 출처표기 등이 보장되는 안전한 기술환경 에서 데이터 저장 및 관리   (사람의감시) 판사 및 재판 연구원은 인공지능 생성물을 자신들의 업무에 사용하고자 하는 경우 해당 생성물의 결과를 검증 공개협의(publicconsultation) 없이 자동화된 의사결정 도구 등 인공지능을 판결 명령에 사...
    자세한 내용 보기

    KT 에이블스쿨 : 핀테크 아이디어 공모전

    이미지
      KT 에이블스쿨을 하면서 발표 스터디를 했는데,  발표 스터디원의 일부랑 핀테크 아이디어 공모전에 참가했는데 그 과정을 정리해볼려고 한다.  조원 모집  처음에 핀테크 분야로 공모전을 찾은 것은 아니었다. 아이디어, 데이터분석과 관련된 공모전을 나가고 싶어서, KT 에이블스쿨의 발표 스터디에서 조원을 모집했다.  다들 열정이 많아서 바로 모을 수 있었다.  그뒤에, 공모전을 찾아서 투표를 했는데, 핀테크 아이디어 공모전의 표가 가장 많아서 이걸로 하게 되었다.  https://fintech.or.kr/web/expo/idea.do?menu_id=10300   공모전 일정은 이렇게 되어있고, 원래는 제출이 7월 초였으나 기한이 연장되었다.  며칠 뒤에 1차 발표가 나오는데, 좋은 결과가 있으면 좋겠다.  5월 30일에 시작을 했고,  팀즈로 주 1-2회씩 만나서 회의를 했다.  아이디어 선정 아이디어 부분은 구글 스프레드시트에서  각자가 가지고 있는 핀테크 관련 아이디어를 공유하고, 주1회 만나서 아이디어를 공유했다.  첫번째 회의에서는 여러 아이디어를 공유했지만, 모두 마음에 드는 아이디어가 없어서  기존 아이디어를 디벨롭하거나 추가해 다시 회의를 했다.   인당 최소 4개씩 찾아서 적기로 했고,   핀테크 샌드박스 규제 사이트, 핀테크 10가지 서비스 종류, 핀테크 기업의 신사업 등을 공유하면서 아이디어를 생각할려고 노력했다.  그러다가, 팀원 중 한분이 핀테크의 "STO (토큰증권)"라는 새로운 기술을 알려주셨다.  국내에 현재 1개 기업만 있고, 신기술이라서 규제가 제대로 마련되지 않은 새로운 분야였다.  팀원 모두 만장일치로 STO 기술을 활용한 아이디어를 제안하기로 결정했다 !  STO는 토큰증권으로 현재의 조각투자랑 비슷한 방식인 소액투자이다....
    자세한 내용 보기

    KT 에이블스쿨 : 6-7차 미니프로젝트 - 제안서 기반 솔류션 기획 및 설계

    이미지
    6차 미니프로젝트 목적 : 서비스 구성도, 인프라 구성도 작성  주제는 "요구사항 기반 솔루션 기획 및 시스템 설계"로 IT 인프라 수업때 배운 서비스/인프라 구성도를 제안서에 맞게 작성하는걸 해봤다.  K회사의 DX 사업제안팀 컨설턴트가 되어서 시각장애인을 위한 궁사업소의 RFP에 맞는 ICT 서비스 및 인프라 구성도를 만드는 것 !  서비스 구성도 에이블스쿨에서 임의로 만든 궁사업소에서 제안하는 RFP 기반으로  궁사업소의 요구사항은 무엇인지, 이에 따른 서비스 구성도를 만들어봤다.  먼저 요구사항 분석표에 맞춰서, 제안사의 요구사항이 무엇인지 어떤 유형인지 구분을 했다. 요구사항 분석표를 만든걸 보면서, 서비스 구성도를 작성했다.  제공 서비스 5개를 두고,  프로세싱(기능 및 해결방법), 세부 솔루션, 연결된 장치가 각각 무엇인지 글로 정리한 뒤에  구성도로 시각화했다.  처음에는 이게 맞는걸까 확신이 없었지만, RFP와 요구사항 분석표를 보면서 여러번 확인을 거친뒤에 점점 확신이 생겼다.  인프라 구성도 수업때 사용했던 cacoo 툴을 사용했는데, 튜터님께 클라우드 부분과 네트워크 부분에 대해서 질문을 많이하면서 제대로된 인프라 구성도를 그릴 수 있어서 만족스러웠다.  인프라 구성도는 전체적인 흐름이 한눈에 잘 보이도록 작성을 하는게 중요한데,  처음에는 클라우드, 관제시스템, 사용자 환경, 서비스 제공 환경이 이리저리 산발적이라서 우리도 혼란스러웠지만, 튜터님이 인터넷을 기준으로 왼쪽에는 사용자 관점에서 쓰는 것을 두고, 오른쪽에는 서비스 관점에서 쓰는걸 두면 보기 좋을 것 같다는 피드백에 따라 수정했는데 확 달라진게 느껴져서 전문가는 다르다는걸 새삼 느꼈다 .. . 안보이지만 서비스 구성도 인프라 구성도 7차 미니프로젝트 목적 : 제안 발표 이번 7차는 가장 빅프로젝트스러운 미니프로젝트였다.  6차때 만든 서비스구성도와 인프라구성도...
    자세한 내용 보기