Truman fue informado sobre el Proyecto Manhattan por el Secretario de Guerra, Henry L. Stimson, el día en que Roosevelt murió, después de su primera reunión de gabinete como presidente. Mientras que estaba en Europa por la Conferencia de Potsdam, se enteró de la noticia de que la Prueba Trinity, la primera bomba atómica del mundo, había sido un éxito. Lanzó una indirecta a Iósif Stalin, de que los Estados Unidos estaban a punto de utilizar un nuevo tipo de arma contra de los japoneses. Aunque esta era la primera vez que a los soviéticos se les había dado información oficial acerca de la bomba atómica, Stalin, a través de espionaje, era ya muy consciente del proyecto de la bomba atómica, había estado aprendiendo de ello mucho antes que Truman.
En la mañana del 6 de agosto de 1945, a las 8:15, el bombardero B-29 Enola Gay dejó caer una bomba atómica llamada Little Boy, sobre Hiroshima. Dos días más tarde, después de no haber oído respuesta del gobierno de Japón los militares estadounidenses prosiguieron con sus planes de dejar caer una segunda bomba atómica. El 9 de agosto, Nagasaki también fue devastada con una bomba, Fat Man, que fue arrojada por el bombardero B-29 Bockscar. Las bombas mataron a unas 140,000 personas en Hiroshima y unas 80,000 en Nagasaki, a finales de 1945, con aproximadamente la mitad de esas muertes ocurriendo en los días de los bombardeos. Truman recibió la noticia del atentado, mientras que estaba a bordo del crucero USS Augusta (CA-31) en su camino de regreso a los Estados Unidos después de la Conferencia de Potsdam. Los japoneses se rindieron el 14 de agosto. Los partidarios de la decisión de Truman sobre usar la bomba atómica argumentan que salvó a cientos de miles de vidas que se habrían perdido en una invasión del archipiélago japonés. En 1954, Eleanor Roosevelt dijo que Truman "tomó la única decisión que podía", y que el uso de la bomba era necesario "para evitar el tremendo sacrificio de vidas estadounidenses." Otros han argumentado que el uso de la bomba atómica era innecesario e intrínsecamente inmoral. El propio Truman escribió después de la presidencia: "Sabía lo que estaba haciendo cuando detuve la guerra... no me arrepiento y, bajo las mismas circunstancias, lo volvería a hacer."
