액체 신경망 (Liquid Neural Networks)은 인공지능 (AI) 환경에서 가장 중요하고 독특하게 떠오르는 구성 요소 중 하나다.
기계나 로봇이 외부 자극이나 데이터에 반응해야 하는 경우 리소스를 많이 활용해야 하므로 매우 작은 공간에 지능을 적용하려는 경우 병목 현상을 일으킬 수 있다.
벤처비트(VentureBeat)는 도로 주행과 같은 작업에서 자동차를 안정적으로 유지하려면 고전적인 신경망에 10만 개의 인공 뉴런이 필요할 수 있다고 설명했다.
그러나 액체 신경망을 개발하는 MIT CSAIL 팀은 단 19개의 뉴런으로 동일한 작업을 수행할 수 있었다는 놀라운 사실을 발견했다.
액체 신경망 (Liquid Neural Networks)의 영감
액체 신경망은 복잡한 학습과 작업을 수행하는 로봇의 문제를 해결하기 위해 개발된 딥러닝 아키텍처의 일종으로, 클라우드에 대한 의존성이나 제한된 내부 저장소 문제를 해결하기 위해 개발되었다.
MIT CSAIL의 디렉터인 다니엘라 루스는 VentureBeat와의 인터뷰에서 전달했다: “액체 신경망에 대한 영감은 머신러닝에 대한 기존의 접근 방식에 대해 생각하고 로봇과 엣지 디바이스가 제공하는 안전에 중요한 시스템과 어떻게 부합하는지 고려하는 데서 비롯되었다.
“로봇에서는 계산 [성능]과 [저장] 공간이 부족하기 때문에 대규모 언어 모델을 실행할 수 없다.”
연구팀은 작은 유기체에서 발견되는 생물학적 뉴런에 대한 연구에서 문제의 실마리를 찾았다.
액체 신경망이란 무엇인가?
액체 신경망은 정보를 처리하고 출력을 제공하기 위해 서로 연결된 인간 두뇌의 세포라고 생각하면 된다.
인간의 뇌는 매우 복잡한 연산을 수행하는 매우 복잡한 세포 배열로 이루어져 있다.
액체 신경망은 주로 자율 주행 차량이나 로봇과 같이 지속적인 데이터 스트림이 필요한 안전이 중요한 애플리케이션에 적용된다.
다니엘라 루스에 따르면 “일반적으로 액체 신경망은 시계열 데이터가 있을 시 잘 작동하기 때문에 액체 신경망이 잘 작동하려면 시퀀스가 필요하다.
“하지만 이미지넷 (ImageNet)과 같은 정적 데이터베이스에 리퀴드 네트워크 솔루션을 적용하려고 하면 잘 작동하지 않는다.”
장점과 한계
MIT 컴퓨터 과학 및 인공 지능 연구소(CSAIL)의 연구팀은 실험을 바탕으로 다음과 같은 장점을 발견했다.
- 소형화
액체 신경망은 기존 신경망보다 훨씬 적은 수의 뉴런으로 작동할 수 있다.
위에서 살펴본 바와 같이 기존의 딥러닝 신경망은 자율주행차가 차선을 유지하려면 100,000개의 뉴런이 필요하지만, 액체 신경망은 19개의 뉴런만 있으면 된다.
- 인과관계
액체 신경망은 기존 딥러닝 신경망보다 인과관계를 더 잘 처리한다. 기존의 딥러닝 신경망과 달리 액체 신경망은 원인과 결과 사이의 명확한 관계를 파악할 수 있다.
예를 들어, 기존 딥러닝 신경망보다 다양한 설정에서 이벤트 간의 인과관계를 더 효율적으로 일관되게 식별할 수 있다.
- 해석력
AI 시스템의 데이터 해석을 이해하는 것은 AI 분야의 가장 큰 과제 중 하나다.
기존의 딥러닝 모델은 데이터 해석의 근거가 얕거나 불분명하거나 잘못된 경우가 많지만, 액체 신경망은 데이터 해석의 근거를 설명할 수 있다.
- 하지만…
액체 신경망은 모든 것을 위한 포괄적인 해결책은 아니다.
오디오 스트림, 온도 데이터, 비디오 스트림과 같은 연속적인 데이터 스트림은 잘 처리하지만, 정적이거나 고정된 데이터에는 어려움을 겪으며, 이는 다른 AI 모델에 더 적합하다.
결론
AI 환경에서 액체 신경망은 가장 중요한 신흥 모델 중 하나다.
기존의 딥러닝 신경망과 공존하지만 자율주행차, 온도 또는 기후 판독, 주식 시장 평가와 같은 매우 복잡한 작업에 더 적합한 반면, 기존의 딥러닝 신경망은 정적 또는 일회성 데이터에 더 적합하다.
MIT 컴퓨터 과학 및 인공 지능 연구소(CSAIL)의 연구원들은 액체 신경망의 기능을 더 많은 사용 사례로 확장하기 위해 노력해 왔지만 시간이 더 걸릴 것이다.
액체 신경망과 기존 딥러닝 신경망 모두 더 넓은 AI 분야에서 정의된 역할이 있으며, 두 가지 모델이 공존하는데에 있어서 이점이 있다.
