Las dos personas que desarrollaron Yahoo!, David Filo y el Dr. Jerry Yang, estudiantes de doctorado de Ingeniería Eléctrica en la Universidad de Stanford, comenzaron la guía Yahoo! en abril de 1994, como un modo de hacer un seguimiento de sus intereses personales en Internet. Muy pronto se dieron cuenta de que sus listas de "andar por casa" estaban creciendo demasiado y resultaban difíciles de manejar. Poco a poco comenzaron a dedicar más y más tiempo a Yahoo!.


Durante 1994 convirtieron Yahoo! en una base de datos personalizada diseñada para cubrir las necesidades de miles de usuarios que comenzaron a utilizar el servicio a través de la muy limitada comunidad de Internet. Desarrollaron un software personalizado para localizar, identificar y editar de forma eficaz el material almacenado en Internet. Se supone que el nombre Yahoo! representa las siglas "Yet Another Hierarchical Officious Oracle (Otro Oficioso Oráculo Jerárquico)", aunque Filo y Yang insisten en que eligieron el nombre porque se consideraban a sí mismos Yahoos. Yahoo! residió al principio en "akebono", la terminal de trabajo de Yang cuando era estudiante, y el mecanismo de búsqueda "konishiki" se guardaba en el ordenador de Filo. (Las máquinas llevaban los nombres de unos legendarios luchadores hawaianos de sumo).


A principios de 1995, Marc Andreessen, co-fundador de Netscape Communications en Mountain View, California (que desarrolló dos de los navegadores más populares, Mosaic y el mencionado Netscape) invitó a Filo y a Yang a traspasar sus ficheros a unos ordenadores de mayor tamaño alojados en Netscape. Como resultado, la red de ordenadores de Stanford volvió a la normalidad, después del volumen de tráfico que recibía su red, y ambas partes salieron beneficiadas. Hoy en día, Yahoo! contiene información organizada de decenas de miles de ordenadores conectados a la Red. El San Jose Mercury News describió el fenómeno diciendo que "Yahoo es lo más cercano en espíritu a la labor de Linnaeus, el botánico del siglo XVIII cuyo sistema de clasificación organizó el mundo de la naturaleza."