El IBM S/360 fue el primer ordenador en usar microprogramación, y creó el concepto de arquitectura de familia. La familia del 360 consistió en 6 ordenadores que podían hacer uso del mismo software y los mismos periféricos. El sistema también hizo popular la computación remota, con terminales conectados a un servidor, por medio de una línea telefónica. Así mismo, es célebre por contar con el primer procesador en implementar el algoritmo de Tomasulo en su unidad de punto flotante.
Los clientes de IBM tenían una gran inversión en software que lograron ejecutar en la segunda generación de ordenadores. Muchos modelos ofrecieron la opción de emulación de microcódigo del ordenador anterior del cliente (ejemplo IBM 1400 series en un 360/30 o IBM 7094 en un 360/65) de modo que los viejos programas podían funcionar en la nueva máquina. No obstante los clientes tuvieron que parar la computadora y reiniciar en modo de emulación. El posterior S/370 conservó las opciones de la emulación, pero permitido que se ejecutarán bajo control del sistema operativo junto a programas nativos.
Fue el primer computador en ser atacado con un virus en la historia de la informática; y ese primer virus que atacó a esta máquina IBM Serie 360 (y reconocido como tal), fue el Creeper, creado en 1972.
