Aug 18, 2017

How Microsoft plans to turn Azure into an 'AI cloud'

Microsoft is forging ahead to make FPGA processing power available to external Azure developers for data-intensive tasks like deep-neural-networking tasks.

Microsoft社는 지난 수 년 간 자체 정보검색서비스인 Bing과 클라우드컴퓨팅 플랫폼인 Azure의 성능과 효율성을 증진시키기 위해 프로그램이 가능한 비메모리형 반도체의 일종인 FPGA (field-programmable gate arrays)를 사용해왔으나, 2018년 경에는 심층신경네트워크와 같은 인공지능을 포함해 자신의 고유의 임무를 수행할 수 있는 개발자들이 이용가능한 종류의 FPGA 처리능력을 제공하기 위한 계획을 추진하고 있는 것으로 나타나 관련 내용을 살펴보기로 한다.

Azure의 최고기술관리자인 Mark Russinovich씨는 자체 클라우드컴퓨팅을 통해 하드웨어 마이크로서비스를 제공하기 위한 큰 그림을 선보인 것으로 나타났는데, 일부 보안성과 몇몇 이슈들을 해결하고 난 이후에는 온전히 구성이 가능한 클라우드컴퓨팅을 보유하게 될 수 있을 것이라는 점을 언급한 것으로 나타났다. 이는 인공지능형태의 클라우드의 핵심이라 볼 수 있으며, 인공지능을 FPGA의 도움을 통해 민주화할 수 있는 주요한 발돋움으로 볼 수 있다는 점을 강조한 것으로 나타났다.

여기서 말하는 FPGA는 제조된 이후 고객 맞춤형태화할 수 있는 칩셋으로 Microsoft社의 연구진들은 약 10년 이상의 기간 동안 FPGA 환경에서 작업을 진행해왔으며, 최근 자체 Azure 서버들 모두와 Bing 인덱싱 서버 일부에 FPGA를 추가하는 공격적인 행보를 보이고 있는 것으로 나타났다. 특히 하드웨어 기반의 마이크로서비스는 Intel의 FPGA를 기반으로 운영되고 있으며, 해당 칩셋은 Microsoft社의 프레임워크와 결합되어 대용량 데이터작업에 부합되는 속도와 효율성을 제공하고 있다고 한다.

또한 프로젝트 Brainwave 를 통해 심층신경망네트워킹에 특화된 작업도 함께 진행하고 있는 것으로 나타났는데, 이 Brainwave는 FPGA기반 하드웨어의 마이크로서비스를 실행할 수 있는 딥러닝 플랫폼으로서 데이터센터와 인터넷 망에서 서비스형 하드웨어 가속을 가능하게 해주며, 필요한 수준의 FPGA를 신경망 네트워크 모델에 할당해주는 역할을 지원하고 있다고 한다.

비단 Microsoft社 외에도 Amazon과 Google 또한 인공지능 작업수행을 위해 고객맞춤형 실리콘을 사용하고 있는 것으로 나타났으며, 앞으로도 기술기반의 다양한 기업체들에서 인공지능과 딥러닝을 활용한 플랫폼이나 서비스 개발이 봇물을 이룰 것으로 예상되고 있다 하겠다.