В 1853 году путешествуя по Санкт-Петербургу, Карл Сименс основывает представительство компании своего брата Siemens & Halske. Сименс заключает контракт на создание русской телеграфной сети.
В 1869 году Карл переезжает в Англию, где помогает своему брату Вильяму. В 1880-е он возвращается в Россию и после смерти в 1892 году своего брата Вернера он становится генеральным директором Siemens & Halske. В 1904 году он уходит в отставку.
За его службу России он был посвящён в дворянство Царём Николаем II в 1895 году.