山陽新幹線が島式2面4線の3階の高架ホーム、在来線が4面10線の地平ホームを持つ。なお、2004年（平成16年）から行われた構内改修により西口側にあった津山線・吉備線の16・17番のりばは西口広場拡張のため撤去されるなど、ホームの形状とのりばが大幅に変更されています。
駅舎は新幹線口が表口になっている数少ない駅のひとつ。2006年（平成18年）10月に橋上化され、新幹線連絡も含め主だった機能は2階に設置されている。また、東西連絡道路ができたことにより西口駅舎が廃止、改札口も一部を除き2階と地下に集約されました。かつてあった高架下の長いコンコースも多くが商業施設になっています。
駅長が配置された直営駅であり、管理駅として山陽本線の西川原駅・北長瀬駅・庭瀬駅、吉備線の備前三門駅 - 備中高松駅間各駅、津山線の福渡駅 - 法界院駅間各駅を管轄しています。
以前は北長瀬駅・庭瀬駅は倉敷駅・中庄駅（地区駅）管理、吉備線各駅は備中鉄道部（廃止後は新見駅〔管理駅〕・総社駅〔地区駅〕）管理だったが、行政区域と原則一致させる方針から変更されました。
新幹線
東海道・山陽新幹線で運行される東海旅客鉄道（JR東海）所有の300系J編成と700系C編成は山陽新幹線での定期運用が当駅始発・終着の「ひかり」に限られるため、原則的に当駅以西に入ることはない（臨時列車でのみ入る）。逆に100系P編成は新大阪駅への乗り入れができないため、当駅以東には入りません。
岡山駅新幹線プラットホーム
ホーム 路線 方向 行先
21・22 山陽新幹線 下り 広島・鹿児島中央方面
23・24 山陽新幹線 上り 新大阪・東京方面
東京発当駅止まりの「ひかり」は21番のりばに到着する。また、当駅始発東京行きの「ひかり」は24番のりばから発車します。
広島・博多方面へ（から）の当駅発着の「こだま」は、駅の西側に博多総合車両所岡山支所がある関係上、岡山支所から駅に逆線入線もしくは駅から岡山支所に向けて逆線発車します。
以前は新幹線が1〜4番線を利用して、在来線は5番線から数字が割り振られていた。また、0番線が存在していた時期もある。
在来線
当駅をまたがって運転する普通列車はすべて当駅で列車番号が変わります。
岡山駅在来線プラットホーム
ホーム 路線（方向） 行先 備考
1・2 ■山陽本線（下り） 倉敷・福山・広島方面 快速「サンライナー」含む
■伯備線 倉敷・備中高梁・新見・米子方面 特急「やくも」含む、寝台特急は8番のりば
3・4 ■山陽本線（上り） 和気・姫路・鳥取方面 特急「スーパーいなば」含む
■赤穂線 西大寺・播州赤穂方面
5 ■瀬戸大橋線・宇野線 茶屋町・児島・四国・宇野方面 一部の快速・普通のみ
6・8 ■瀬戸大橋線・宇野線 茶屋町・児島・四国・宇野方面 主に四国方面の特急・快速列車
7 ■瀬戸大橋線・宇野線 茶屋町・児島・四国・宇野方面 普通列車と一部臨時快速列車のみ
9 ■津山線 福渡・津山方面
10 ■吉備線 備中高松・総社方面
以前はホームで直接折り返していたが、現在は引き上げる形です。
営業列車での設定はないが、3番のりばからは倉敷方面・津山方面への発車も可能。5・8番のりばからは山陽本線両方向への発車も可能で、岡山駅改修工事中は実際に5番のりばから山陽本線・赤穂線の定期営業列車が発車していた（8番のりばは津山方面への発車も可能）。9・10番のりばは津山方面・総社方面の両方向の発着に対応しています。
寝台特急「サンライズ瀬戸」「サンライズ出雲」は、上り（東京方面）は4番のりば、下り（高松方面・出雲市方面）は8番のりばに停車し、分割・併合を行う。
当駅では茶屋町方面への列車のうち、児島方面発着列車を「瀬戸大橋線」、宇野発着列車を「宇野線」と案内している。
山陽本線の貨物列車は、下りは1番のりば、上りは4番のりばを通過します。また瀬戸大橋線直通の貨物列車は、上り下り共に8番のりばに数分停車し、運転時刻調整および乗務員交代を行う。
1 - 4番のりばの発車標では、普通列車の場合、種別部分には「普通」表記の代わりに「山陽線」「赤穂線」「伯備線」というように線区を表記し、誤乗防止を図っています。
各のりばの案内板には、路線名と方面に合わせて、それぞれののりばに入線する列車の名前を表示している。特急は赤色、快速は橙色で分けてある。
1・2番のりば:サンライナー、やくも（実際は2番のりばのみ使用）
3・4番のりば:スーパーいなば
5 - 8番のりば:しおかぜ、南風、うずしお、マリンライナー
かつては寝台特急サンライズゆめ、夜行快速ムーンライト九州・ムーンライト松山・ムーンライト高知・ムーンライト山陽が停車していた。
2009年（平成21年）以前は当駅始発で速達運転を行うデータイム快速「シティライナー」が設定されていたが、2010年（平成22年）3月13日ダイヤ改正により消滅し、当駅発着列車も本数を削減され糸崎駅発着が中心となった（快速列車の発着についても早朝、福山駅から発車する「通勤ライナー」に役割を譲った）。
入線メロディ
入線メロディは在来線ホームのみ存在する。また入線メロディが流れ終わった後、JR西日本の標準メロディが列車が停車するまで流れ続けます。
ホーム 路線 入線メロディ
1 山陽本線（下り）・伯備線 いい日旅立ち+JR西日本標準メロディ
2 山陽本線（下り）・伯備線 汽車+JR西日本標準メロディ
3・4 山陽本線（上り）・赤穂線 線路は続くよどこまでも+JR西日本標準メロディ
5-8 瀬戸大橋線・宇野線 瀬戸の花嫁+JR西日本標準メロディ
9・10 津山線・吉備線 桃太郎+JR西日本標準メロディ
9・10番のりば（旧：14・15番のりば）は、2006年（平成18年）7月の改番時以前まで「線路は続くよどこまでも」が使われており、2番のりば（当時：7番のりば。切り欠きの旧6番のりば含む）で「いい日旅立ち」、現在の3・4番のりば（当時：8・10番のりば。切り欠きの旧9番のりば含む）で「汽車」が使われていた。
