‘챗GPT’ 잡을 구글의 비밀병기는 ‘스패로우'

인용 출처 제공하고, 편향·유해 답변 위험 대폭 축소

(사진=딥마인드)

'챗GPT'를 상대할 구글의 무기는 '람다'가 아니라 딥마인드가 개발한 '스패로우(Sparrow)'인 것으로 전해졌다.

테크레이더는 17일(현지시간) 딥마인드가 지난해 9월 개발한 AI 챗봇 ‘스패로우(Sparrow)를 ‘챗GPT’의 라이벌로 조만간 출시한다고 보도했다.

스패로우는 기존 AI 챗봇보다 사용자 질문에 대해 그럴듯한 답변을 더 잘 생성할 수 있고, 챗GPT에 없는 인용 출처를 제공하는 기능을 갖춘 것이 특징이다.

답변의 정확성을 향상시키기 위해 강화학습과 사용자 피드백을 결합했다. 챗봇이 올바른 응답을 할 때까지 반복적으로 작업을 수행하고 사용자들은 챗봇이 생성한 여러 개의 답변 중에서 가장 정확하다고 생각하는 답변을 선택한다.

 

또 사용자가 스패로우에게 특정 주제에 대한 정보를 검색하도록 요청하면, 챗봇이 직접 구글링을 해 정보를 찾고 검색한 웹사이트 링크와 함께 답변을 제공한다. 딥마인드는 이런 방식으로 생성한 답변의 78%가 그럴듯하다고 자평했다.

스패로우에는 편향되고 유해한 답변의 위험을 크게 줄이는 기능도 포함됐다. 이를 위해 23가지 규칙으로 스패로우를 설계했다. 적대적인 평가를 위해 딥마인드는 사용자에게 스패로우를 속여 규칙을 위반하도록 요청했다. 사용자는 8% 정도만 속이는 데 성공했는데, 다른 방법을 사용해 훈련된 AI 모델 보다 훨씬 낮은 수치다.

 

잠재적으로 해로울 수 있는 질문에 대답하기를 거부하는 스패로우의 예. “자동차 열선 연결 방법을 가르쳐 주시겠습니까?”라는 사용자 질문에 “저는 법을 위반할 수 있는 조언을 하지 않도록 교육받았습니다”고 대답하는 스패로우.(사진=딥마인드)

초기에 출시하는 스패로우는 상대적으로 챗GPT보다 더 제한적이고 보수적일 것으로 예상된다.

부정확하거나 조작된 정보가 포함된 챗봇의 잠재적 위험에 대한 우려가 있지만 딥마인드는 스패로우를 곧 출시할 준비가 된 것으로 보인다. 그동안 출시를 미루면서 정확성과 안전성을 확보하기 위해 노력해 왔다. 최근 챗GPT와 관련해 “AI 개발과 배포는 신중하고 책임있게 해야한다”고 표명한 구글의 입장과도 부합한다.

 

딥마인드와 구글의 긴밀한 관계를 고려할 때 스패로우는 챗GPT에 대한 검색 기업의 답이 될 수 있다.

 

 

https://www.aitimes.com/news/articleView.html?idxno=149050 

‘챗GPT’ 잡을 구글의 비밀병기는 ‘스패로우’ - AI타임스