Karl Benz sa narodil 25.novembra 1844 v Baden Mühlburgu (teraz časť Karlsruhe) v industriálnej a modernej časti Nemecka. Karl Benz sa narodil Josephine Vaillantovej a Johannovi George Benzovi ako nemanželské dieťa. Zosobášili sa až po Karlovom narodení. Keď mal Karl 2 roky zomrel mu otec pri vlakovom nešťastí, pracoval ako vodič lokomotívy. Napriek skromnému spôsobu života na hranici chudoby, jeho matka sa usilovala dať synovi dobré vzdelanie.
Študoval na lokálnej základnej škole v Karlsruhe a bol nesmierne nadaný študent. V roku 1853, keď mal 9 rokov začal navštevovať špeciálne Lýceum pre nadaných. Následne po skončení štúdia na lýceu študoval na Polytechnickej Univerzite pod vedením Ferdinanda Redtenbachera. Benz mal originálne zamerané štúdium zámočníctva, pravdepodobne chcel nasledovať kroky svojho otca v inžinierstve lokomotív. 30. Septembra 1860, keď mal 15, úspešne vykonal vstupný test na mechanické inžinierstvo na Univerzitu v Karlsruhe. Benz následne 9. Júla 1864 úspešne ukončil štúdium ako 19 ročný.