【问题标题】:Ignoring diacritic characters when comparing words with special characters (é, è, ...)将单词与特殊字符(é、è、...)进行比较时忽略变音符号
【发布时间】:2011-03-13 19:44:35
【问题描述】:

我有一个包含一些带有变音符号的比利时城市的列表:(Liège、Quievrain、Franière 等),我想转换这些特殊字符以与包含大写相同名称但没有变音符号(LIEGE、QUIEVRAIN、FRANIERE)

我首先尝试的是使用大写:

LIEGE.contentEqual(Liège.toUpperCase()) 但这不合适,因为Liège 的大写是LIÈGE 而不是LIEGE

我有一些复杂的想法,比如替换每个字符,但这听起来很愚蠢,而且过程很漫长。

关于如何以聪明的方式做到这一点的任何想法?

【问题讨论】:

标签: java android string replace diacritics


【解决方案1】:

Collat​​or 类是一个很好的方法(参见相应的javadoc)。这是一个显示如何使用它的单元测试:

import static org.junit.Assert.assertEquals;

import java.text.Collator;
import java.util.Locale;

import org.junit.Test;

public class CollatorTest {
    @Test public void liege() throws Exception {
        Collator compareOperator = Collator.getInstance(Locale.FRENCH);
        compareOperator.setStrength(Collator.PRIMARY);

        assertEquals(0, compareOperator.compare("Liege", "Liege")); // no accent
        assertEquals(0, compareOperator.compare("Liège", "Liege")); // with accent
        assertEquals(0, compareOperator.compare("LIEGE", "Liege")); // case insensitive
        assertEquals(0, compareOperator.compare("LIEGE", "Liège")); // case insensitive with accent

        assertEquals(1, compareOperator.compare("Liege", "Bruxelles"));
        assertEquals(-1, compareOperator.compare("Bruxelles", "Liege"));
    }
}

编辑: 很抱歉看到我的回答没有满足您的需求;也许是因为我已经将它作为单元测试提出来了?这适合你吗?我个人觉得它更好,因为它是 short 并且它使用 SDK(无需替换字符串)

Collator compareOperator = Collator.getInstance(Locale.FRENCH);
compareOperator.setStrength(Collator.PRIMARY);
if (compareOperator.compare("Liège", "Liege") == 0) {
    // if we are here, then it's the "same" String
}

希望对你有帮助

【讨论】:

  • 关于转换的问题,即去除变音符号,而不仅仅是比较。
  • 这不是我阅读问题的方式:最终目标是比较字符串,但他在比较之前只考虑转换:“我想转换这些特殊的要比较的字符”。在我的回答中,您不必转换即可比较'这就是为什么我仍然认为我的回答很有帮助。
【解决方案2】:

在 Java 中查看这个方法

private static final String PLAIN_ASCII = "AaEeIiOoUu" // grave
            + "AaEeIiOoUuYy" // acute
            + "AaEeIiOoUuYy" // circumflex
            + "AaOoNn" // tilde
            + "AaEeIiOoUuYy" // umlaut
            + "Aa" // ring
            + "Cc" // cedilla
            + "OoUu" // double acute
    ;

    private static final String UNICODE = "\u00C0\u00E0\u00C8\u00E8\u00CC\u00EC\u00D2\u00F2\u00D9\u00F9"
            + "\u00C1\u00E1\u00C9\u00E9\u00CD\u00ED\u00D3\u00F3\u00DA\u00FA\u00DD\u00FD"
            + "\u00C2\u00E2\u00CA\u00EA\u00CE\u00EE\u00D4\u00F4\u00DB\u00FB\u0176\u0177"
            + "\u00C3\u00E3\u00D5\u00F5\u00D1\u00F1"
            + "\u00C4\u00E4\u00CB\u00EB\u00CF\u00EF\u00D6\u00F6\u00DC\u00FC\u0178\u00FF"
            + "\u00C5\u00E5" + "\u00C7\u00E7" + "\u0150\u0151\u0170\u0171";

    /**
     * remove accented from a string and replace with ascii equivalent
     */
    public static String removeAccents(String s) {
        if (s == null)
            return null;
        StringBuilder sb = new StringBuilder(s.length());
        int n = s.length();
        int pos = -1;
        char c;
        boolean found = false;
        for (int i = 0; i < n; i++) {
            pos = -1;
            c = s.charAt(i);
            pos = (c <= 126) ? -1 : UNICODE.indexOf(c);
            if (pos > -1) {
                found = true;
                sb.append(PLAIN_ASCII.charAt(pos));
            } else {
                sb.append(c);
            }
        }
        if (!found) {
            return s;
        } else {
            return sb.toString();
        }
    }

【讨论】:

  • 这个方法看起来又长又复杂,但这是我唯一成功使用的方法!其他 2 个似乎更好,但不起作用。非常感谢。
  • 你怎么能说 Collat​​or 不起作用?有了它,你就不必用equals了,但你必须和0比较。
  • 没试过,如果有更好的建议。确保它确实 removeAccents 而不是比较它们。
【解决方案3】:

从 Java 6 开始,您可以使用 java.text.Normalizer:

public String unaccent(String s) {
    String normalized = Normalizer.normalize(s, Normalizer.Form.NFD);
    return normalized.replaceAll("[^\\p{ASCII}]", "");
}

请注意,在 Java 5 中还有一个 sun.text.Normalizer,但强烈建议不要使用它,因为它是 Sun 专有 API 的一部分,并且在 Java 6 中已被删除。

【讨论】:

  • 不幸的是,我猜 Android SDK 没有为我提供最新的 Java 6 功能......我收到这条消息:“Normalizer 无法解析”并且我无法导入 java.text.Normalizer跨度>
  • 仅供参考 Java 1.5 在 Android 上,所以没有 Normalizer
  • 不错!我不知道这个 API(但我仍在使用 Java 1.5)谢谢
  • 对于那些仍然需要 Java Apache Commons Lang 有一个 stripAccents 方法,在 Java 6 中使用 java.text.Normalizersun.text.Normalizer 用于早期版本。 (我不知道后者是否可以在 Android 上使用。)
【解决方案4】:

这是迄今为止我发现的最简单的解决方案,它在我们的应用程序中完美运行。

Normalizer.normalize(string, Normalizer.Form.NFD).replaceAll("\\p{InCombiningDiacriticalMarks}+", ""); 

但我不知道Normalizer是否在Android平台上可用。

【讨论】:

【解决方案5】:

如果您仍然需要没有 Normalizer 类的 Android API 8 或更低版本(Android 2.2、Java 1.5),这是我的代码,我认为修改比 Pentium10 更好:

public class StringAccentRemover {

    @SuppressWarnings("serial")
    private static final HashMap<Character, Character> accents  = new HashMap<Character, Character>(){
        {
            put('Ą', 'A');
            put('Ę', 'E');
            put('Ć', 'C');
            put('Ł', 'L');
            put('Ń', 'N');
            put('Ó', 'O');
            put('Ś', 'S');
            put('Ż', 'Z');
            put('Ź', 'Z');

            put('ą', 'a');
            put('ę', 'e');
            put('ć', 'c');
            put('ł', 'l');
            put('ń', 'n');
            put('ó', 'o');
            put('ś', 's');
            put('ż', 'z');
            put('ź', 'z');
        }
    };
    /**
     * remove accented from a string and replace with ascii equivalent
     */
    public static String removeAccents(String s) {
        char[] result = s.toCharArray();
        for(int i=0; i<result.length; i++) {
            Character replacement = accents.get(result[i]);
            if (replacement!=null) result[i] = replacement;
        }
        return new String(result);
    }

}

【讨论】:

    【解决方案6】:

    由于 Froyo 或以前的 Android 版本不支持 Normalizer 类,我结合了 thisthis(我都投了赞成票),并对其进行了优化,获得了几个辅助方法。方法 unaccentify 只是将变音符号转换为普通字符,而方法 slugify 为输入字符串生成一个 slug。希望它对某人有用。以下是源代码:

    import java.util.Arrays;
    import java.util.Locale;  
    import java.util.regex.Pattern;  
    
    public class SlugFroyo {
        private static final Pattern STRANGE = Pattern.compile("[^a-zA-Z0-9-]");
        private static final Pattern WHITESPACE = Pattern.compile("[\\s]");
    
        private static final String DIACRITIC_CHARS = "\u00C0\u00E0\u00C8\u00E8\u00CC\u00EC\u00D2\u00F2\u00D9\u00F9"
                + "\u00C1\u00E1\u00C9\u00E9\u00CD\u00ED\u00D3\u00F3\u00DA\u00FA\u00DD\u00FD"
                + "\u00C2\u00E2\u00CA\u00EA\u00CE\u00EE\u00D4\u00F4\u00DB\u00FB\u0176\u0177"
                + "\u00C3\u00E3\u00D5\u00F5\u00D1\u00F1"
                + "\u00C4\u00E4\u00CB\u00EB\u00CF\u00EF\u00D6\u00F6\u00DC\u00FC\u0178\u00FF"
                + "\u00C5\u00E5" + "\u00C7\u00E7" + "\u0150\u0151\u0170\u0171";
    
        private static final String PLAIN_CHARS = "AaEeIiOoUu" // grave
                + "AaEeIiOoUuYy" // acute
                + "AaEeIiOoUuYy" // circumflex
                + "AaOoNn" // tilde
                + "AaEeIiOoUuYy" // umlaut
                + "Aa" // ring
                + "Cc" // cedilla
                + "OoUu"; // double acute
    
        private static char[] lookup = new char[0x180];
    
        static {
            Arrays.fill(lookup, (char) 0);
            for (int i = 0; i < DIACRITIC_CHARS.length(); i++)
                lookup[DIACRITIC_CHARS.charAt(i)] = PLAIN_CHARS.charAt(i);
        }
    
        public static String slugify(String s) {
            String nowhitespace = WHITESPACE.matcher(s).replaceAll("-");
            String unaccented = unaccentify(nowhitespace);
            String slug = STRANGE.matcher(unaccented).replaceAll("");
            return slug.toLowerCase(Locale.ENGLISH);
        }
    
        public static String unaccentify(String s) {
            StringBuilder sb = new StringBuilder(s);
            for (int i = 0; i < sb.length(); i++) {
                char c = sb.charAt(i);
                if (c > 126 && c < lookup.length) {
                    char replacement = lookup[c];
                    if (replacement > 0)
                        sb.setCharAt(i, replacement);
                }
            }
            return sb.toString();
        }
    }
    

    【讨论】:

      【解决方案7】:

      我不知道它是否在 Android 上可用,但在 JVM 上,您应该在您的项目中重新实现它并重用现有代码:只需使用 org.apache.commons.lang3.StringUtils#stripAccents

      【讨论】:

      • 是的,只需将其添加为依赖项即可:编译“org.apache.commons:commons-lang3:3.9”
      【解决方案8】:

      对于那些正在寻找干净的 java 解决方案的人,请使用 apache commons:

      StringUtils.stripAccents("Liège").toUpperCase();
      

      这将返回

      LIEGE
      

      【讨论】:

      • 唯一适用于比较操作任何一侧的任何变音符号的答案
      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2019-08-03
      • 2011-01-23
      • 2011-12-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2010-09-28
      相关资源
      最近更新 更多