[4차 산업혁명 이야기] 113. 제품 개선하는 피드백 효과, 시장 집중화도 초래

상업 항공기의 사고율은 매우 낮다. 사망사고의 경우 2020년 100만 편당 0.27명에 불과하다. 이는 강력한 컴퓨터와 숙련된 파일럿의 시너지 덕분이다. 이들은 정교한 피드백 시스템하에서 서로를 보완한다. 비행기에 달린 수십 개의 센서로부터 얻은 데이터를 처리해 안정적인 궤도를 유지하고, 파일럿은 컴퓨터의 판단이 옳은지 모니터링하며 비행기의 위치와 궤적을 끊임없이 관찰한다.

알고리즘의 피드백 루프

컴퓨터와 파일럿은 서로를 보완하지만 항상 완전한 것은 아니다. 2009년 6월 브라질 리우데자네이루 국제공항에서 프랑스 파리로 출발한 에어프랑스 447편 사고가 대표적인 사례이다. 비행속도 센서인 피토관(pitot tube)이 얼어 오류가 발생하자 컴퓨터는 운항을 부분적으로 파일럿에게 넘겼다. 수동운항 이후 기체는 이미 최대 고도에 가까워진 상태였지만 부조종사는 센서 오류 탓으로 기체가 점점 땅을 향해 가고 있다고 판단해 기수를 더욱 상승시켰다. 기체는 결국 최대 고도에 도달해 상승력을 잃고 땅으로 추락하기 시작했다. 컴퓨터가 경고를 보내자 조종사들은 기수를 더욱 올렸다.

치명적인 피드백 루프 상황이 발생한 것이다. 기계는 데이터가 신뢰할 만하다고 판단한 범위 내에서 경고를 했고, 인간은 경고에 반응했다. 결국 비행기는 대서양에 추락해 탑승자 216명 전원이 사망했다. 이러한 피드백 루프의 위험성은 약 70년 전부터 제기됐다. 수학자인 노버트 위너 매사추세츠공대(MIT) 교수는 피드백 루프에 관한 일반 이론을 통해 피드백 시스템의 요소가 잘못된 루프에 빠지면 대참사를 일으킬 수 있음을 예견했다.

피드백 효과와 시장의 집중화

오늘날 피드백 효과는 시장의 집중화 현상이라는 위험을 야기한다. 과거 시장 집중 현상은 규모의 경제와 네트워크 효과에 의해 발생했다. 제조업에서 시작된 규모의 경제는 소매점과 서비스업 등 경제 전반에 확산됐고, 소비자는 덕분에 낮아진 가격과 다양한 상품의 혜택을 받았다. 네트워크 효과는 20세기 전화망 시장이 AT&T를 중심으로 통합되면서 발생했다. 가입자 증가는 연락 가능한 사용자 증가를 의미하므로 가입자 전체의 효용 증가로 이어졌다.

피드백 효과는 데이터 중심의 경제에서 시장 집중화를 심화시키는 새로운 요인이다. 구글 검색을 자주 사용하게 되면 자동완성 기능이 강화되고, 맞춤법 기능 역시 개선된다. 의료진단 인공지능인 IBM 왓슨이 폐암 환자의 사진을 많이 접할수록 폐암에 대한 진단 정확도가 높아지는 것과 같다. 아마존은 규모의 경제, 네트워크 효과, 피드백 효과 세 가지를 모두 활용해 제품을 개선하고 시장 집중화를 초래한다.

데이터 공개를 통한 분산화 필요

시장 집중화는 경쟁을 저해하는 요소임에 분명하다. 지금까지 규제 당국은 규모의 경제와 네트워크 효과에만 주목할 뿐 피드백 효과의 위협은 체감하지 못하는 듯하다. 피드백 효과는 많은 양의 데이터로부터 발생하고, 사용자가 많을수록 유리하다. 스타트업일지라도 피드백 데이터 없이는 대기업의 경쟁 상대가 될 수 없다.

일부에서는 알고리즘 공개 의무를 주장하지만, 핵심은 데이터이지 알고리즘 자체가 아니다. 경제학자 옌스 프뤼퍼르와 크리스토프 쇼트뮐러는 피드백 데이터를 이용하는 대기업은 반드시 데이터를 경쟁기업과 공유할 것을 제안했다. 데이터가 많을수록 상품과 서비스의 질이 좋아지는 가치가 특정 기업의 이익을 높여주는 데 그치지 않고 널리 퍼질 수 있어야 한다는 것이다. 집중화 정도에 비례한 데이터 공유를 통해 작은 기업과 큰 기업이 경쟁할 수 있어야 한다. 전통적인 반독점 규정들은 여전히 중요하지만, 피드백 시스템이 잘못된 루프에 빠지지 않도록 데이터 공유에 대한 제도적 고민이 그 어느 때보다 필요한 시점이다.