Jerusalén, mientras tanto, había cambiado de manos varias veces, en los últimos tiempos y desde 1098 se encontraba en manos de los fatimíes de Egipto. Los cruzados llegaron ante las murallas de la ciudad el 7 de junio de 1099 y, al igual que hicieron con Antioquía, desplegaron sus tropas para someterla a un largo asedio. Posiblemente el asedio fue más duro para los propios cruzados que para los ciudadanos de Jerusalén, puesto que los primeros tenían una mayor escasez de agua y comida al no haber lugares en los que aprovisionarse cercanos a la ciudad. Jerusalén, sin embargo, estaba bien preparada para aguantar el asedio, y el gobernador fatimí había expulsado previamente a la mayoría de los cristianos. Del total estimado de 7.000 caballeros que habían tomado parte en la Primera Cruzada, sólo quedaban unos 1.500, junto con otros 12.000 soldados de a pie en buen estado físico de un total que puede haber sido de unos 20.000.
Enfrentados a lo que parecía una tarea imposible, la moral del ejército subió cuando un cura llamado Pedro Desiderio aseguró haber tenido una visión divina en la que el fantasma de Ademar le comunicó que debían ayunar durante tres días y luego marchar descalzos en procesión alrededor de las murallas de la ciudad. Después de esto, la ciudad caería en un plazo de nueve días, siguiendo el ejemplo bíblico de Josué en la conquista de Jericó. A pesar de que ya estaban hambrientos, hicieron el ayuno y marcharon en procesión el día 8 de julio, con el clero haciendo sonar las trompetas y cantando salmos mientras que los defensores de la ciudad se reían de ellos. La procesión terminó en el Monte de los Olivos, en dónde Pedro el Ermitaño, Arnulfo de Chocques y Raimundo de Aguilers pronunciaron varios sermones.
Un primer asalto directo sobre las murallas el 13 de junio resultó un fracaso. Por otro lado, sin agua ni comida tanto los hombres como los animales morían de sed y de inanición, por lo que los cruzados eran conscientes de que el tiempo no corría de su parte. Sin embargo, poco después del primer asalto llegaron un cierto número de naves cristianas al puerto de Jaffa, y los cruzados pudieron volver a aprovisionarse durante un tiempo. También comenzaron a acumular madera traída desde Samaria para poder construir maquinaria de asedio. Sin embargo, seguían con carencias de agua y de comida, y para finales de junio comenzaron a llegar noticias de que un ejército fatimí estaba marchando desde el norte de Egipto.
Finalmente la ciudad cayó en manos cristianas el 15 de julio de 1099, gracias a una ayuda inesperada. Las tropas genovesas dirigidas por Guillermo Embriaco, se habían dirigido a Tierra Santa en una expedición privada. Se dirigían en primer lugar a Ascalón, pero un ejército fatimí de Egipto les obligó a marchar tierra adentro hacia Jerusalén, que en ese momento se encontraba sitiada por los cruzados. Los genoveses habían desmantelado previamente las naves en las cuales habían navegado hasta Tierra Santa, y utilizaron esa madera para construir torres de asedio. Estas torres fueron enviadas hacia las murallas de la ciudad la noche del 14 de julio entre la sorpresa y la preocupación de la guarnición defensora. A la mañana del día 15, la torre de Godofredo llegó a su sección de las murallas cercana a la esquina noreste de la ciudad. La torre de Raimundo quedó frenada por una zanja pero, dado que los cruzados ya habían entrado por la otra vía, los guardias se rindieron a Raimundo.
A lo largo de esa misma tarde, la noche y la mañana del día siguiente, los cruzados desencadenaron una terrible matanza de hombres, mujeres y niños, musulmanes, judíos o incluso los escasos cristianos del este que habían permanecido en la ciudad. Aunque muchos musulmanes buscaron cobijo en la mezquita de Al-Aqsa y los judíos en sus sinagogas cercanas al Muro de las Lamentaciones, pocos cruzados se apiadaron de las vidas de los habitantes. Según la obra anónima Gesta Francorum "...la carnicería fue tan grande que nuestros hombres andaban con la sangre a la altura de sus tobillos..." Otros relatos que hablan de la sangre llegando a la altura de las riendas de los caballos son reminiscencias de pasajes de Apocalipsis 14:20 que dice: "Las uvas fueron exprimidas fuera de la ciudad, y del lagar salió sangre, la cual llegó hasta los frenos de los caballos en una extensión de trescientos kilómetros".
Dos mil judíos fueron encerrados en la sinagoga principal, a la que se prendió fuego con ellos dentro, matando a todo el mundo en su interior. También dice que los cruzados rodearon el edificio en llamas mientras cantaban "Cristo, ¡Te Adoramos!".
Tras la masacre, los cruzados ofrecieron a Raimundo de Tolosa el título de rey de Jerusalén, pero lo rechazó. Después se le ofreció a Godofredo de Buillón, que aceptó gobernar la ciudad pero rechazó ser coronado como rey, diciendo que no llevaría una "corona de oro" en el lugar en el que Cristo había portado "una corona de espinas".
