Perbedaan utama antara zat organik dan anorganik adalah bahwa semua zat organik mengandung karbon sebagai komponen penting sedangkan zat anorganik mungkin mengandung atau tidak mengandung karbon.
Sering kali, zat organik mengandung karbon, hidrogen, dan terkadang oksigen, bersama dengan ikatan CH. Tetapi sebagian besar senyawa anorganik tidak mengandung karbon kecuali beberapa zat seperti karbonat dan sianida yang dikategorikan sebagai anorganik karena alasan sejarah (ilmuwan sebelumnya menamakan senyawa ini sebagai anorganik). Oleh karena itu, perbedaan utama antara zat organik dan anorganik terletak pada komposisi kimianya.