En su origen, el Archivo era un departamento secundario, ubicado en uno de los patios internos del Palacio de Gobierno del Estado. Con una inadecuada estantería se colocaban los paquetes siguiendo un orden cronológico que se perdía cuando se realizaban las búsquedas de información.
En 1832 el Cuarto Congreso Constitucional del Estado expidió un Decreto ordenando la elaboración de inventarios de los documentos resguardados en los archivos del Estado.
Casi cien años más tarde y tras los vaivenes de la política nacional y estatal durante el siglo XIX y principios del XX, el Archivo General de Gobierno se encontraba en muy mal estado. Por ello en 1923 se inició una reorganización, formando expedientes con base en diferentes ramos.
En 1929 se comisionó al C. Arcadio Ortega Domínguez, director de la Biblioteca Pública del Estado, para que dirigiera los trabajos de protección, organización y clasificación del Archivo General, en la casa que alberga actualmente el Museo Rufino Tamayo. En dicho inmueble estuvo el archivo General cerca de 42 años.
En 1970, siendo secretario general de Despacho el Lic. Fernando Gómez Sandoval se trasladó el archivo a la sección sur del ex convento de los Siete Príncipes, ubicado en la calle de Santos Degollado número 400, atrás de la Casa de la Cultura Oaxaqueña.
En 1994 cambia su nombre al de Archivo General del Poder Ejecutivo del Oaxaca, de conformidad con la Ley Orgánica del Poder Ejecutivo de ese año, mediante un Decreto.
En el 2011, el Gobierno del Estado de Oaxaca, con apoyo de la Fundación Alfredo Harp Helú Oaxaca (FAHHO), a través de la Asociación Civil Apoyo al Desarrollo de Archivos y Bibliotecas de México (ADABI), inició una importante labor de rescate, ordenación, organización y estabilización del Archivo Histórico del Archivo General del Poder Ejecutivo del Oaxaca, con el cual se obtuvieron las guías de los 5 grandes fondos: Gobierno, Hacienda, Justicia, Milicia y Registro Civil.
En el 2014 se inició la construcción del edificio en el parque de las Canteras, inmueble diseñado exprofeso por el Arquitecto Ignacio Mendaro Corssini a fin de resguardar los documentos históricos en repositorios especiales que tienen una extensión de más de 8 kilómetros lineales. El edificio del AGEO es un referente obligado en el mundo, respecto de los edificios contemporáneos destinados a albergar instituciones de archivo.
El 24 de febrero de 2017 se publicó el Decreto por el cual se crea el Archivo General del Estado de Oaxaca (AGEO) como un órgano desconcentrado de la Secretaría de Administración, con autonomía técnica, operativa y de gestión.
El 15 de junio de 2019 se publicó la Ley General de Archivos. Para cumplir con el proceso de armonización de esta ley, el 15 de febrero de 2020 fueron publicados la Ley de Archivos para el Estado de Oaxaca y los marcos normativos que regulan el conjunto de los archivos activos de trámite, concentración e históricos de todo el Estado.
A partir de una acción de inconstitucionalidad que emitió el Instituto Nacional de Acceso a la Información Pública (INAI), en la que se señala la necesidad de modificar la Ley de Archivos para el Estado de Oaxaca, el 23 de mayo de 2023 se inició el proceso de creación del Archivo general del estado de Oaxaca como organismo público descentralizado no sectorizado, con autonomía técnica, administrativa y financiera. Con esta modificación jurídica y administrativa inicia la fase más reciente de la historia de este archivo y de la política documental y de información en el Estado.
El AGEO ofrece diversos servicios. Cuenta con una sala de consulta abierta al público en general y para los investigadores, en donde se realizan consultas directas de los documentos históricos originales que se encuentran en los fondos. Se brindan servicios de reprografía, digitalizando documentos que son solicitados por los usuarios y con motivos de preservación. Por otra parte, como responsable del funcionamiento del Sistema Estatal de Archivos, el AGEO proporciona programas de capacitación y asesoría a los sujetos obligados del Gobierno del Estado, a los poderes Judicial y Legislativo, organismos públicos descentralizados, ayuntamientos y particulares que lo soliciten.
El Archivo General del Estado de Oaxaca, fue una de las primeras entidades federativas, en constituir su Consejo Estatal de Archivos, además de regular el funcionamiento de su Comité Técnico, esto con la finalidad de crear y fortalecer el Sistema Estatal de Archivos. Con estas dos figuras el AGEO, se constituye en el ente regulador y normativo respecto de la organización, conservación y difusión del patrimonio documental del Estado de Oaxaca.