ржали много тяжёлых металлических деталей. За это компьютерное оборудование прозвали «железом». По-английски hardware, то есть «металлические изделия, изделия из металла». Здесь слово hard означает «металлический», хотя для нас более знакомо буквальное значение «твёрдый». Так что программы — тоже в шутку — назвали software в противоположность оборудованию hardware, обыгрывая буквальное значение этих слов. Получается, что «софт» — это «нечто, сделанное НЕ из металла».
Вокруг этих названий можно придумать много шуток, например название Microsoft Mouse можно буквально перевести как «маленькая мя