군더더기 없는 기계학습 백과사전

가장 최신 언어 관련 모델로는 심층 학습, 대량의 나열된 영어, 그리고 대량의 명령 주기 실행에 기반하는 GPT-3이 있다. 이 모델은 현재 문장을 깔끔하게 정돈하고 문장 내의 오류와 어색함을 찾아내고 고치는데 굉장히 능숙하다. 따라서 출력된 문장은 인간이 쓴듯한 자연스러운 깔끔한 영어 회화처럼 생겼고, 가끔 논리적으로 말이 안 되는 문장이 나오긴 하지만 문장 그 자체만 보면 사람이 알아들을 수 있는 의미가 있긴 하다. 이 모델은 그러나 문장의 전달하고자 하는 의미 자체, 화자가 전하고자 하는 말, 그리고 청자의 배경지식을 (예를 들어 "그는 파티에 오지 않을 거야"의 의미는 분명하지만 의미 전달의 기반으로 쓰는 맥락은 분명하지 않다.) 반영하지는 못한다. 따라서 이 정도 수준에서 뭔가를 고치려면 순수 ..

해당 문서는 Gnosis Data Analysis 사의 CEO Ioannis Tsamardinos 교수의 인터뷰를 토대로 작성되었다. Gnosis Data Analysis 사는 현재 자동화 기계학습 어플리케이션인 JAD(Just Add Data)BIO를 내놓은 상태이다. AutoML이란? 자동화된 기계학습(Automated Machine Learning)의 줄임말로써 기계학습 파이프라인을 처음부터 끝까지 자동화시키고자 하는 움직임이다. 이를 실제로 구현한 한 형태는 데이터를 입력한 뒤 버튼 하나 누르는 것으로 결과를 얻고 끝나는 과정이다. 당신이 데이터에서 원하는 것이 무엇인지 말하면 시스템은 이를 어떻게 얻어낼 수 있는지 알고 있다. 통상적으로 사람들은 AutoML을 복합 알고리즘 선택 및 초매개변수 ..

기본적인 기계학습 알고리즘은 좋은 CPU로도 충분히 감당할 수 있지만 은닉층이 꽤 많은 딥러닝까지 가면 빠르고 효율적인 모델 훈련을 위한 좋은 그래픽 카드의 필요성은 절실해진다. 구글 Colab이나 캐글(Kaggle)을 통해 공짜로 그래픽 카드를 빌릴 수는 있겠지만 이들은 시간제한이 있고 데이터를 옮기는데 시간도 더 많이 걸리므로 제대로 된 작업을 위해서는 다소 무리가 있다. 유료로 구글 클라우드나 AWS 같은 곳에서 그래픽 카드를 더 긴 시간 동안 빌릴 수도 있지만 장기적으로는 이들도 가성비가 떨어진다. 그러나 모두가 좋은 최신 그래픽 카드를 마련할 수 있을 정도로 지갑 사정이 좋지는 않을 것이다. 특히나 최근에 나온 RTX-20/30 시리즈 그래픽 카드는 텐서 코어를 장착해 압도적으로 빠른 연산 속도..