AI 명령받는 휴머노이드, 보안 위협, 피지컬 AI 보안 전문가, 박하언 에임인텔리전스 CTO

텍스트와 에이전트 단계를 지나 인공지능(AI) 모델에 물리적인 몸이 주어졌을 때 이를 제대로 통제하기 위해서는 정말 많은 연구가 필요 AI 안전 전문 스타트업인 에임인텔리전스의 박하언 최고기술책임자 최근 전 세계적으로 연구개발(R&D)이 활발한 로보틱스와 피지컬 AI를 향후 AI 안전과 관련해 최대 우려 요소로 꼽았다. 박 CTO는 "물리적 세계에 적용되는 피지컬 AI는 AI의 판단이 고도의 실제 행동으로 이어지고, 사람에 대한 물리적인 피해까지 가능해지기 때문에 굉장히 중요한 영역"이라며 "AI와 로보틱스가 연결되면서 현실 세계에 미치는 영향 또한 커지기 때문에 글로벌 보안업계에서는 피지컬 AI에 대한 새로운 보안 요구 사항이 늘어날 것으로 보고 있다"고 말했다. 이어 그는 "앞으로 10~20년 동안 전 세계 정보기술(IT)업계에서 큰 과제가 될 것"이라며 "글로벌 빅테크 기업들은 이미 로봇을 통제하기 위한 기술 개발에 많이 투자하고 있다"고 덧붙였다. 박 CTO는 "현재 피지컬 AI는 사람이 명령하면 이에 따라 행동하는 방식이라 가드레일 등을 적용하는 게 수월하지만, 피지컬 AI가 자율적으로 행동하게 되는 상황에서는 매우 어려워질 것"이라며 "로봇이 어떤 행동을 하려는지 파악할 수 있는 기술이 중요해졌다"고 강조 https://www.msn.com/ko-kr/news/other/ai-%EB%AA%85%EB%A0%B9%EB%B0%9B%EB%8A%94-%ED%9C%B4%EB%A8%B8%EB%85%B8%EC%9D%B4%EB%93%9C%EB%8A%94-%EB%B3%B4%EC%95%88-%EC%9C%84%ED%98%91-%EB%8D%94-%ED%81%B4-%EA%B2%83/ar-AA1WT67H?ocid=msedgntp&pc=EDGEDSE&cvid=699cd8911bd04940905087b4a1061115&ei=50