Где моя реализация IComparable работает неправильно?

Числа, которые вы сравниваете, рассматриваются не как числа, а как строки! А со строками буква «1» стоит перед «8», поэтому большее число появляется первым, потому что при обработке в виде текста порядок другой.

Я рекомендую вам преобразовать это поле в int, если вы хотите рассматривать его как единое целое.

Изменить: для вашего отредактированного вопроса (поле теперь также содержит буквы) вам нужно будет написать пользовательскую логику сравнения, чтобы сравнивать их в нужном вам порядке.

Например, я предполагаю, что вы хотите, чтобы логика была такой:

1. Разделить код на цифры и буквы.
2. Сравнивать только числа (как int).
3. Если числовые части одинаковы для обоих значений, сравните остальные как строку.

Реализуйте эту логику (или любую другую логику, которую вы действительно хотите) в своем методе CompareTo, и вы получите желаемый порядок.

Код для такой логики может быть таким:

public class ListItem : IComparable<ListItem>
{
    public int RollNumber { get; set; }
    public string Name { get; set; }
    public string AdmissionCode { get; set; }

    private static readonly char[] Numbers = new[]
    {
        '0',
        '1',
        '2',
        '3',
        '4',
        '5',
        '6',
        '7',
        '8',
        '9'
    };

    #region Implementation of IComparable<in ListItem>
    public int CompareTo(ListItem other)
    {
        // Assumes AdmissionCode is in ####ABC format,
        // with at least one number and any amount of letters.
        string myNumberPart, myRemainingPart;
        string otherNumberPart, otherRemainingPart;

        SplitAdmissionCode(AdmissionCode, out myNumberPart, out myRemainingPart);
        SplitAdmissionCode(other.AdmissionCode, out otherNumberPart, out otherRemainingPart);

        int myNumber = int.Parse(myNumberPart);
        int otherNumber = int.Parse(otherNumberPart);

        int result = myNumber.CompareTo(otherNumber);

        // Numbers are different.
        if (result != 0)
            return result;

        // Numbers are same. Use text compare for the remaining part.
        return myRemainingPart.CompareTo(otherRemainingPart);
    }

    private void SplitAdmissionCode(string code, out string numbersPart, out string remainingPart)
    {
        int lastNumberIndex = code.LastIndexOfAny(Numbers);

        numbersPart = code.Substring(0, lastNumberIndex + 1);

        if (lastNumberIndex == code.Length - 1)
            remainingPart = "";
        else
            remainingPart = code.Substring(lastNumberIndex + 1);
    }
    #endregion
}

Вы сортируете строки, а не числа. Строка CompareTo не учитывает длину.

EDIT (для вашего отредактированного вопроса): при сортировке строк, начинающихся с чисел, сортировка метода CompareTo вряд ли даст ожидаемые результаты, поскольку все, что он делает, это алфавитный порядок.

Строка "1203" меньше "801". Вы можете попытаться преобразовать строки в числа перед сравнением (если они по существу представляют числовые значения)

Это ожидаемая функциональность, как уже отмечали другие.
Если вы хотите такой порядок, как 801r, 802x, 892k, 1203a, сделайте это

public class ListItem : IComparable<ListItem>
{
    public int RollNumber { get; set; }
    public string Name { get; set; }
    public string AdmissionCode { get; set; }

    public int CompareTo(ListItem other) {
        return ExtractNumbers(this.AdmissionCode).CompareTo(ExtractNumbers(other.AdmissionCode));
    }
    private int ExtractNumbers(string expr) {
        return Convert.ToInt32(String.Join(null,System.Text.RegularExpressions.Regex.Split(expr, "[^\\d]")));
    }
}

Если вы хотите, чтобы это было просто:

public class ListItem : IComparable<ListItem>
{
    public int RollNumber { get; set; }
    public string Name { get; set; }
    public string AdmissionCode { get; set; }

    #region Implementation of IComparable<in ListItem>

    public int CompareTo(ListItem other)
    {
        return this.AdmissionCode.Length != other.AdmissionCode.Length
            ? this.AdmissionCode.Length.CompareTo(other.AdmissionCode.Length)
            : this.AdmissionCode.CompareTo(other.AdmissionCode);
    }

    #endregion
}