Joseph Williams sinh ở Rotherham vào ngày 4 tháng 6 năm 1902, và bắt đầu chơi cho Rotherham County (đội bóng đã sáp nhập với những câu lạc bộ khác để thành lập Rotherham Utd vào năm 1925).

Năm 1924, anh chuyển đến Huddersfield Town, được huấn luyện bởi Herbert Chapman, và là một phần của đội hình vô địch quốc gia mùa giải 1924/25. Anh ở lại câu lạc bộ sau khi Chapman rời đi và giành chức vô địch thứ hai ở mùa giải 1925/26 – năm mà Arsenal đứng thứ hai trong giải đấu.

Tuy nhiên, vào tháng 3 năm 1926, anh chuyển đến Stoke City và khi họ bị xuống hạng vào cuối mùa giải, anh lại có được một tấm huy chương của nhà vô địch vì các trận đấu của anh cho Huddersfield, Joey trở thành cầu thủ đầu tiên vô địch League Championship và bị xuống hạng (giải hạng ba miền Bắc – Third Division North) trong cùng một mùa giải.

Sau đó, anh tiếp tục chơi 31 trận trong mùa giải tiếp theo và giúp Stoke giành chức vô địch và trở lại giải hạng hai.

Tiếp đó, vào tháng 9 năm 1929, Joey chuyển đến Arsenal và được huấn luyện bởi Chapman một lần nữa, anh ra mắt Arsenal trong trận thua 2-5 trước Aston Villa vào ngày 25 tháng 9 năm 1929.

Joey chơi 16 trận ở mùa giải 1929/30, bao gồm bốn trận ở FA Cup, nhưng đã bỏ lỡ trận chung kết vì chấn thương, và khi mùa giải 1930/31 bắt đầu, anh phải ngồi dự bị cho Joe Hulme và Cliff Bastin và chỉ có 9 lần ra sân, điều này khiến anh bỏ lỡ chức vô địch League Championship lần thứ 3. Trận đấu cuối cùng của anh là vào ngày 26 tháng 12 năm 1931 khi Arsenal thua 0-2 trên sân nhà trước Sheffield United. Joey rời Arsenal vào tháng 3 năm 1932 sau khi chơi 26 trận cho Arsenal, ghi năm bàn, anh ký hợp đồng với Middlesbrough và chơi bóng ở đó trong bốn mùa giải. Cuối cùng anh kết thúc sự nghiệp với Carlisle Utd ở mùa giải 1935/36.

Anh cũng đã chơi hai trận trong chuyến du đấu không chính thức của FA tới Nam Phi – loại du đấu mà Tom Whittaker đã thực hiện vào năm 1925, sử dụng các cầu thủ dưới cấp độ của đội tuyển Anh đến những vùng đất thuộc địa nhằm khuyến khích phát triển bóng đá. Whittaker đã đến Úc (nơi chấn thương đã khiến anh kết thúc sự nghiệp). Joey chỉ có hai trận ở Nam Phi – một vào ngày 15 tháng 6 năm 1929 và một vào ngày 13 tháng 7 năm 1929. Cũng như Tom Whittaker, anh không được tính là đã khoát áo đội tuyển Anh.

Joey mất vào năm 1978.