국어는 우리 국민의 의사소통의 수단이 될 뿐 아니라 국민정신을 반영하고 있는 존재로 국민의 의식과 행동을 지배하고 있다. 이처럼 우리에게 절대적인 국어에 대한 연구나 정책의 수립은 비단 몇몇 학자들이나 학술 단체에서만 수행될 성질의 것이 아니라 국가적 차원에서 수행해야 할 성질의 것이다. 실제로 유럽의 여러 나라에서는 16～17세기 이래로 자신들의 국어를 통일, 정리, 순화해 오고 있으니, 가령 프랑스의 한림원(교육성 소속)이나 영국의 언어과학연구소(교육과학성 소속) 등이 그것이다. 가까이 일본에서도 1949년에 국립국어연구소(문화청 소속)를 설립하여 연구원만 80여 명의 규모로 운영해 오고 있다. 우리나라의 경우도 세종대왕 때에 이미 언문청(諺文廳)을 설립하여 정음(正音)과 관계된 일을 해 나갔으며, 또 집현전 학사로 하여금 훈민정음 창제와 한자음 정리 사업을 하도록 하는 등 어문정책을 국가적으로 수행했었다. 그러나 세종 때의 이러한 사업들은 그 후 계속되지 못하고 우리말과 글은 어두운 시기를 맞게 되었다.
그러나 개화기에 이르러 새로이 자주 의식이 싹트게 되자 다시 우리말과 글에 대한 관심은 높아졌으며, 나라에서는 1907년 학부(지금의 교육부) 내에 국문의 원리와 연혁 및 현재 사용과 장래 발전 방법 등을 연구할 목적으로 국문연구소를 설치하였으며 이 국문연구소는 이후 23회에 걸쳐 국문의 연원에서 철자법에 이르기까지 여러 항목을 토의해 왔으나 망국(亡國)으로 큰 빛을 보지 못한 채 해산되었다.
이후 일제 시대에는 조선 총독부에서 조선어 교과서에 사용할 목적으로 수행한 철자법 제정 사업을 제외하고는 조선어 연구회(1921년, 1931년 조선어 학회, 1949년 한글 학회로 명칭 변경), 조선어학 연구회(1931) 등의 민간단체에서 국어의 표기법 통일 운동, 조선말 사전 편찬 사업 등의 국어 연구 및 국어 운동을 해 왔으나 이마저도 일제의 국어 말살 정책으로 인해 심한 고초를 겪어 오던 중 해방을 맞았다.
그러나 해방 후 학계의 분열과 대립, 통일된 어문정책의 결여로 많은 사람들이 표류하는 국어 정책에 휩쓸려 왔으며 분열된 여론이 수시로 들끓듯이 일어났다. 해방 후 한글 전용론과 한글·한자혼용론의 대립으로 인한 정책의 갈등이나 1950년대의 한글 파동, 1960년대의 문법 교과서 파동 등은 다 여기에 연관되는 것이다. 이에 따라 우리의 국어 생활은 크게 흔들리었으며 2세를 교육할 통일된 문법 교과서도 마련하지 못했다.
물론 국가에서도 국어심의회나 국어순화운동협의회와 같은 기관을 문교부 안에 두어 국어의 연구 및 정책의 방향 등을 논의해 왔으나 이들 기관이 비상설 자문 기구이어서 사업의 계속성 및 일관성을 유지하기 어려워 효율적인 어문정책을 시행할 수 없었던 것이다.
이에 뜻있는 학자나 관련 학회에서는 수시로 국가적 차원의 국어연구소 설립을 건의해 왔으니 1976년 5월에 국어학회, 한국어문교육연구회, 국어국문학회, 진단학회 등 9개 관련 학회가 문교부 직속 기구로 국어연구원을 설치할 것을, 1983년 5월에는 한국어문교육연구회(대표 이희승), 국어국문학회(김석하), 국어학회(김형규), 한국국어교육연구회(이응백), 어문연구회(도수희), 동악어문학회(이동림), 한국문인협회(김동리), 한국방송작가협회(유호), 한국독서교육연구회(홍웅선), 대한출판문화협회(민영빈), 한국글짓기지도회(이희승) 등 이상 11개 관련 학회가 국무총리의 직속 기관으로 국립 국어연구원의 설치를 건의한 바 있다. 또한 언론계에서도 계속적으로 사설 등의 기사를 통하여 국어연구소 설립을 건의해 왔다.
이러던 차에 문교부에서도 국어연구소의 설립 필요성을 절감하고 오래 전부터 이에 대한 작업을 추진하여 오던 중, 1983년 4월 21일 국회에서 문교부 장관(이규호)이 학술원 내에 국어연구원 설립을 추진 중이라는 발언을 하면서부터 국어연구소 설립이 구체화되었다. 1983년 5월 문교부에서는 학술원에 국어연구소를 설치하는 것을 주요 내용으로 하는 설치 계획을 송부하였으며 학술원에서는 이를 검토하여 세부 사항을 논의하였다.
1983년 10월 정부 예산으로 1억 4천여만 원이 국어연구소 보조금으로 확정됨에 따라, 1984년 학술원 인문 과학 제2분과 위원회를 중심으로 학술원 안에 비공식 기구인 국어연구소 설치에 대한 규정 및 사업 계획을 논의하여 3월 학술원 임원회에서 국어연구소 규정을 통과시켰다. 이 규정에 따라 이달 초대 국어연구소 소장으로 학술원 원로 회원인 김형규 박사를 선임하고 연구소 세부 사업 계획을 확정지었다.
1984년 4월 문교부로부터 사업 계획 승인 및 사업비 1억 4천여만 원을 보조받고, 이에 따라 전임연구원 4명 및 조사원 6명을 공개 선발하고 안국동 해영회관에 사무실을 구하여 1984년 5월 10일 마침내 개소하게 되었다. 이처럼 국어연구소는 나라가 독립하여 우리말을 되찾은 지 거의 40년 만에 어렵게 탄생하였다.